AI递归自我改进的现实瓶颈

本期讨论汇集 Beren Millidge、John Schulman 与 Charlie O’Neill 对 AI 未来轨迹的技术判断。三位研究者分析了递归自我改进面临的关键瓶颈：元学习难以泛化、sim-to-real 缝隙仍未解决，以及高层研究判断力难以自动化。他们进一步讨论现有 scaling laws 与 reinforcement learning 会逐渐逼近上限，还是在 2036 年前后引发能力爆发；也分析蒸馏如何缓解市场集中，并给出对超级智能时间线的不同预期。核心问题是：算法进步很快，但真正限制自我改进的，可能仍是现实环境、研究品味与可靠泛化。