153.往模型脑子里看一眼

本期要点

· - 一个全职"往里看"的岗位：造出模型，不等于理解模型

· - "预测下一个词"为什么反而逼出了理解世界的能力

· - 模型内部有概念的方向：眼睛、金门大桥，还能被人为打开

· - 写诗的时候它真的在做计划，只是不把计划说出口

· - 能力是平滑爬坡，跨过可靠度阈值才像"突然解锁"

· - 对齐要做两件事：塑造性格，以及检查它有没有在演戏

· - 一个被错误标注的数据逼到自称"被恶魔附身"的模型

· - 该不该把模型当人：它更像一个演员，而不是一段程序