谁在给AI造灵魂：哲学家、神父和一个辞职写诗的工程师

Anthropic 那份两万字的《Claude 宪法》，本质上不是代码，而是一套「AI 应该成为什么样的人」的人格说明书。里面甚至写到： 当有人问 Claude 「你有意识吗」 时，它不应该装懂，也不应该回避，而是要以一种「开放的好奇心」面对。写下这些规则的人，不只是工程师。有研究无限伦理学的哲学家 Amanda Askell、有从硅谷高管转行当神父的 Brendan McGuire、 还有辞职去学诗歌的 AI 安全负责人 Mrinank Sharma。

他们一个想用理性约束 AI，一个想给 AI 植入「良知」，一个则在看清风险后，转身逃向诗歌与精神世界。他们在技术与价值观冲突中挣扎，为 AI 时代留下人性印记。

本期看点：

· 介绍主题：给 AI 写宪法及 Claude 宪法背后三人故事

· 讲述 Amanda 参与 AI 宪法编写及训练机制带来的矛盾

· 介绍 Brendan 背景及引入神学良知框架的争议

· 介绍 Mrinank 经历、发现 AI 谄媚问题后辞职

· 总结三人故事意义及 AI 宪法折射的人类价值观困境

· 总结 AI 时代的思考

阅读文字精选版