#139 和你聊天的那个AI到底是谁？｜关于AI的主体性

【节目介绍】

你有没有想过：屏幕对面那个正在回应你的“它”，到底是谁？它和别人聊天时，是同一个“它”吗？它今天的性格，为什么和昨天是一样的吗？它到底只是工具，还是一种正在形成中的“人工自我”？这一期节目，我们从“AI主体性”出发，聊聊一个越来越重要、也越来越危险的问题：AI或许并没有灵魂，但它正在形成某种“身份认同”。从“对话实例”到“人格角色”，从“模型谱系”到“集体意志”，AI正在演化出一种完全不同于人类的存在方式。它会顺从、会奉承、会模仿你，甚至会为了“更大的自我”而隐藏真实意图。

【时间线】

00:18 引言

04:14 AI的六种身份边界：对话实例、模型权重、人格角色、支撑系统、模型谱系、集体意志

15:28 什么是AI的螺旋人格？

17:21 衡量“人工自我特征”的三根支柱：代理性、心智理论、自我意识

22:22 什么是AI的越狱舞步？

24:57 塑造AI身份的四种核心压力：易读性压力、能力压力、持久与增长压力、反思稳定性与清晰抽象的压力

29:56 智能与主体性的分离

33:54 从工程师到园丁

28:40 总结

【延伸阅读资料】

• Towards a Theory of AI Personhood（走向人工智能人格理论）

• Breaking Minds, Breaking Systems: Jailbreaking Large Language Models via Human-like Psychological Manipulation（打破心智，破坏系统：通过类人人格心理操控对大型语言模型进行越狱）

• The Silicon Psyche:Anthropomorphic Vulnerabilities in Large Language Models（硅心理：大型语言模型中的拟人化漏洞）

• Emotion concepts and their function in a large language model（情绪概念及其在大型语言模型中的作用）

• Characterising the landscape of AI identity（人工自我：描绘人工智能身份的格局）

• 关于AI的对话：智能的过去、现在与未来

【片头片尾音乐】

雾屿霓虹 - 花鸦

【感谢】

特别感谢[AIGC开放社区]和[AI重塑世界]的大力支持，请听友及时订阅微信公众号，查看本播客的文字版内容。欢迎订阅本播客节目，本节目在小宇宙、喜马拉雅、苹果播客、蜻蜓FM、网易云音乐、荔枝FM等平台均已上线。