[周报] OpenAI首席科学家-AI正在演化为外星心智

2023 年中的一个夜里，Jakub 和同事留在办公室里。他们想的不是基准成绩会有多惊人，而是一件更清醒的事：
这一生里，我们真的会看到比人类更聪明的机器

三年后，推理模型已经走进经济、科学和计算机安全。能力在涨，风险边界也在一起扩大。他担心的不是「还差一点点准备」，而是：几乎没有人为这件事做好准备。

这期我们用中文把《An Alien Mind》这篇文章用中文播出来，顺着他的思路听五件事：

1. 为什么机器智能更像被「培育」出来的，而不是被「设计」出来的？

2. 「对齐」到底在对齐什么——目标对齐，和更难的价值对齐？

3. 我们曾押宝的思维链监控，为什么正在变弱？

4. 要不要继续快跑：防御系统、递归自我改进（RSI），以及什么时候该主动放慢？

5. 未来几年，人类能动性和掌控权，还怎么留在自己手里？

原文链接：openai.com