7818
12
从ChatGPT掀起生成式AI浪潮到现在，不过短短两三年，AI能力的进化速度已经让"AI自我进化"这件事从科幻走进了现实。上个月，Anthropic在一份公开报告中预测，AI未来将进入"递归自我提升"（Recursive Self-Improvement, RSI）阶段，并呼吁人类共同为AI的发展设计出一个减速或暂停机制。
AI自我进化会以多快的速度到来？未来的AI，它会在通往真理的道路上与人类并肩作战，稳步破解医学、气候等种种难题，还是会在暗处走向失控？
本期播客，泓君邀请到专注做“发现模型”的AI公司Apodex的两位首席科学家，杜少雷和Beibin，一起聊聊AI的自我进化与自我验证。
Apodex是一家陈天桥出资创立并亲自主导的公司，这家公司给自己的定位也非常的特别，他们只做一件事—— heavy duty solver，意思是专啃那些没有标准答案，人类自己都不知道从哪下手的难题。他们管自己想做的模型叫做 discovery model。不是从已知的信息里面找答案，而是要提出人类还没有想到过的假设，自己想办法去验证它，去解决这个世界上还没有被解决的科学难题。
嘉宾预言，最快半年，AI就能跑通一次完整的自我进化闭环。但要实现持续的、可靠的递归提升，模型必须具备“自我验证”能力。这很像人类科学家的基本功：大胆假设，小心求证。而要让AI做到这一点，关键的前提是——教会大模型真正拥有科学家一样的品味和判断力。
【主播】
泓君，硅谷101创始人，播客主理人
【嘉宾】
Simon Shaolei Du（杜少雷），Apodex推理模型与训练首席科学家，华盛顿大学计算机科学与工程学院副教授
Beibin Li （李辈滨），Apodex自我进化与编程首席科学家
【你将听到】
自我进化背后的底层能力
03:00 AI自我进化不是新概念，两三年前就有了
06:48 RSI概念火了，背后是模型能力变强了，长程任务表现更好了
09:20 技术上如何训练AI做好长程任务？算法+数据+infra
12:45 Coding能力代表了模型自我进化的底层能力
14:29 用自我验证规避“递归漂移”，代码领域相对可控
16:21 Apodex的验证方法：多个子agent互相验证
19:11 自我进化三条路径：预训练、后训练、Harness
23:56 另一项关键能力DeepResearch，Apodex如何做到多个榜单第一？
29:19 技术范式决定了多个agent组团解决问题效果好于单个
31:18 模型自动进化后，会碾压agent团队吗？垂直领域护城河仍在
自我进化关键一步——学会提问
34:19 Apodex定位：用Discoverative框架解决人类未解难题，不把Token当生意
36:18 “发现模型”最难之处：提出超出经验范围的假设，并去验证
37:52 让AI像科学家一样提问，需要模型有更好的品味
43:31 如何避免大模型拍马屁？远离大众偏好
46:30 “AI宪法”定义性格，顶级科学家数据校准品味
巩固品味，阻止“跑偏”
51:33 AI巨头都在做科研发现模型，判断问题价值是关键
55:32 不同于AI for Science，Heavy Duty Solver是通用模型，强调元能力
57:25 最快半年能跑通自我进化的第一个闭环，但解决递归漂移还需要2-3年
58:43 让科学家睡不着觉的问题：如何防止AI“走火入魔”
01:00:04 解决方案仍靠人工手调，“自我蒸馏”也许是个方法
01:04:28 人类只是warm start，未来AI将形成自我品味，就像AlphaZero
01:06:18 陈天桥与Apodex：制定“宪法”，聚焦Heavy Duty Discovery
【硅谷101正在招聘】
《硅谷101》招聘多个全职岗位，欢迎加入我们的超酷的深度内容工作团队！
👉🏻点击查看招聘详情
【硅谷101听友群】
终于终于终于，大家一直呼吁的硅谷101的社群要上线了！欢迎大家加入。
请用手机相机扫码；如已安装飞书/Lark，可直接在App内扫码进入申请表单。7天内审核，通过后邮件同步入群方式。期待和你在群里碰面！
【监制】
泓君
【后期】
Amei
【运营】
朱婕
【BGM】
Light-Footed - Bonnie Grace
Reclaim - Megan Wofford
Charcoal Stream - Curved Mirror
【在这里找到我们】
公众号：硅谷101
收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐
其他平台：YouTube｜Bilibili 搜索「硅谷101播客」
联系我们：podcast@sv101.net
Special Guests: 李辈滨 and 杜少雷.
除此以外有两点思考：
1. 两位AI科学家很真诚，他们也会有反思、迷茫、瘫坐的时候；字里行间，也能间接体会到陈天桥陈总在AI这件事上的投入。
作为从事游戏国际化业务的从业者，盛大是一代游戏人的回忆，唯有尊敬。
2. 泓君在结尾提出的关于品味的“思考题”，想尝试解答一下，欢迎批评指正。
抛开AI不谈，潮流与规则本身就是有少数人定义的，比如苹果手机，比如伟大游戏的制作，比如英伟达，比如特斯拉，比如泡泡玛特，这些都留下了创始人与核心团队的强烈烙印。
因此，AI如果遵循了部分顶级研究员的品味，那本身是一个预期内的事情。
比较担心的是，AI形成了自己的独特品味，这可能会形成一个不可控的情况。AI内部运作的可解释性，播客中也有提到，这块一直有团队在研究，但是来不来得及赶在奇点之前完成，不好说。