119.AI 安全由谁裁判:第三方评估机构的独立性之争

119.AI 安全由谁裁判:第三方评估机构的独立性之争

25分钟 ·
播放数64
·
评论数0

本期要点

· AI 公司喊了两年"减速",但没人能验证它们到底减没减——于是"独立第三方评估机构"被推上台。

· 这批机构各有专精:Meter 测 AI 加速自身研究的能力,Apollo Research 盯模型对创造者的暗中操作,Secure Bio 看生物能力,Gray Swan 试护栏的结实程度。

· 结构性疑点:同一批投资人(如 Jaan Tallinn、达斯汀·莫斯科维茨)既投了被评估的 Anthropic,又捐赠了负责评估它的机构;人才池和意识形态也高度重叠。

· 但行为记录给出反证:Meter 曾当面否掉 Anthropic"风险足够低"的结论,还发布过不利于客户的"编程工具降低效率"研究。

· 真正的暗线不是"AI 会不会失控",而是"最强大的技术会不会只留在几家公司和几个人手里"。

· 被寄予期望的出路是把"四大"审计事务所那套流程搬进 AI 治理,而不是发明一套全新的机器。