137.造超级智能的人互不信任,谁来守安全底线

137.造超级智能的人互不信任,谁来守安全底线

31分钟 ·
播放数32
·
评论数0

本期要点

· 本期要点

· 1. 《AGI 纪事》作者 Kevin Roose 采访 150 余人后得出的判断:这十年 AI 的关键决策,可能只由二十几个人做出,规模本身就是风险。

· 2. 他把这场竞赛形容为"红皇后竞赛"——每家都在加速,相对位置却几乎不变,跑得越快越到不了想去的地方。

· 3. 一个反讽:为了让自己关于安全的警告有人听,实验室必须先跑到领先位置,于是"领先"变成了安全战略的一部分。

· 4. 书中人物侧写:Sergey Brin 被激将后回归写代码、Demis Hassabis 被身边人称为世界上最好胜的人、Dario 被形容为"为了保命都撒不出谎"。

· 5. 2023 年深夜里,OpenAI 研究员第一次看到推理模型的思维链,当场说"这像一个外星人的心智"。

· 6. 关于递归自我改进:不是实验室"失去"控制,而是主动把控制交出去——据称 Claude 已主导其约 26% 的 AI 研发项目。

· 7. 他反而没那么悲观了:因为公众终于开始恐慌,而"意识到风险"是第一道坎。

· 本节目为第三方访谈的转述解读,仅代表嘉宾与评论者观点,不构成任何投资建议。