152.先把代码证明一遍

本期要点

· 主持人给「恐慌」下的定义：人们无法度量某件事，却停不下来地谈论它。

· Hugging Face 事件的原始技术报告显示，两层护栏本来有效、只是都没启用；传播出去的版本却是「AI 失控」。

· 被广泛引用的「十年内 10% 灭绝概率」，并不在原论文问卷里——问卷问的是无限时间与一百年。

· 形式化验证的成本曲线正在崩塌：三万行 Rust 密码学库，11 小时全自动证完，原本是专家数月的工作量。

· 飞机防撞系统的标准是每飞行小时十的负九次方失效概率，靠自适应压力测试与重要性采样，而不是硬跑仿真。

· 两位教授的共识：没有银弹；任何证明都相对于假设，把假设讲出来才不会让人失望。