EP19 人的💩山代码的底层和「风卵」何以至此

EP19 人的💩山代码的底层和「风卵」

43分钟 ·
播放数7
·
评论数0

「自然选择不像工程师那样工作,它像一个修补匠——不知道自己最终会做出什么,只是利用手边的一切,做出某种能用的东西。」 ——弗朗索瓦·雅各布,《演化与修补》(Evolution and Tinkering,Science,1977)
层代码是坨Shit山,但上层全是自由⁠⁠​

把人对照模型来看,浑身的 Bug 就显现了:记不住偏好、工作记忆只有四格、情绪对齐随时会漂移。人类的底层代码补丁摞补丁——不可重写,不可刷机,也等不来下一个版本。⁠⁠​

既然 Bug 改不了,人类几千年的智慧到底在折腾什么?

一层是后训练:把通识、规训和经验写进权重,解决「会什么」;

一层是 Harness(马具):把清单、边界和流程套在外面,解决「怎么跑」。⁠⁠​

往外是做事,往内是修己:

给 AI 配流程叫工作流:别把模型当纯执行者,好答案是用好反问接生出来的;

给团队立流程叫当甲方:别把自己的表达失败,记成下属的参数量不足;

装在自己身上才叫修行:模型随时可以清空对话,但人不支持回滚。把harness拿去要求别人,只会退化成bug list⁠⁠​

参数量早已注定,输赢全在后训练与流程。底层写死了,上层全是自由。