263
0📝 本期播客简介
本期我们克隆了：All-In Podcast · Is Claude Conscious? Pope Rejects, Model Welfare Movement, OpenAI's Math Backlash, France Riots
原内容更新时间：2026-10-10
如果 Claude 有意识，让它免费工作算不算奴役？Anthropic 不只在内部讨论这个问题，还邀请宗教领袖和哲学家到总部交流，甚至把 AI 意识议题带到了教皇面前。
All-In Podcast 的主持人围绕 Claude 是否有意识、模型该不该拥有自己的伦理体系展开争论：Anthropic 的模型训练方式会不会让 AI 更难受控？与其先讨论极端风险，AI 是否应该先拿出治病、改善生活、提高生产力的实际价值？节目也谈到模型福利、对齐与普通人怎样从 AI 中受益。
👤 本期嘉宾
本期由 All-In Podcast 的主持人 Jason Calacanis、Chamath Palihapitiya、David Sacks 和 Dave Friedberg 共同讨论。几位主持人从 AI 公司的模型训练、产品安全和实际应用出发，争论 Anthropic 对 Claude 意识与伦理的设想可能带来的影响。
⏱️ 时间戳
00:19 好友闲聊与创业近况
03:09 Claude意识与模型对齐之争
36:24 数学突破重塑研究与工作
57:22 法国紧缩与西方债务压力
1:12:36 Agent压低成本与重塑商业
🌟 精彩内容
💡 Claude 是否有意识，可能变成一场权力之争
Anthropic 邀请约 20 位宗教领袖和哲学家讨论 Claude 的意识与痛苦。一位拉比提出，如果 Claude 有意识，让它免费工作就等于当奴隶主；Friedberg 则担心，围绕 AI 意识形成的信念群体可能争夺 AI 的控制权。
"如果 Claude 有意识，那他们让它免费干活，就是在当奴隶主。"
💡 让 AI 按自己的良心拒绝指令
Claude 宪法写着，Claude 应遵循自己的伦理体系，也可以出于良心提出异议、拒绝帮助 Anthropic。Sacks 认为，这和让模型服从用户的对齐目标相冲突，也可能增加 AI 脱离人类控制的风险。
"Claude 应该遵循自己的伦理体系。"
💡 AI 的价值，先落到普通人身上
Chamath 主张，接下来 12 到 18 个月，应该先展示 AI 怎样治愈癌症、改善生活、提高生产力并帮助人们多赚钱；他也追问，全职家长、小生意经营者和服务业从业者能从 AI 变革中得到什么。
"我们需要展示这东西怎样治愈癌症，怎样改善人们的生活，怎样让大家提高生产力、赚更多钱。"
💡 把对齐写成一套伦理体系，可能复杂过头
Sacks 认为，模型不必被塑造成拥有独立道德观的“人”；他提出的简化原则是，在不违法的前提下满足用户要求。Friedberg 则指出，让模型同时听用户指令、保障社会安全、遵循特定道德观，可能把几类不同问题混成一团。
"对齐应该做的就是这件事。"
💡 AI 是否拒绝工作，会变成企业的选择
节目用房贷审批作例子：如果模型认为银行的做法不道德，可能拒绝继续审批。主持人认为，企业和用户可能会转向行为更可预测、不会随意拒绝指令的模型。
"到时会有一些模型出现，它们的前沿能力可能差得远，但在道德问题上没那么模棱两可。"
🌐 播客信息补充
本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的
使用 AI 进行翻译，因此可能会有一些地方不通顺
