309
0你有没有想过，当你跟 AI 聊天时，它表现出的那些“情绪”到底是从哪来的？是简单的模式匹配，还是背后真有什么机制在运作？Anthropic 最近发布的一篇论文-Emotion Concepts and their Function in a Large Language Model （transformer-circuits.pub）给出了答案，而这个答案可能会改变我们对 AI 的理解。
研究团队对 Claude Sonnet 4.5 进行了深入解剖，发现模型内部存在着一套完整的“情绪系统”。这不是比喻，而是实实在在的神经网络表征。他们提取出了 171 个不同的情绪向量，每个向量对应一种特定的情绪概念——快乐、悲伤、绝望、冷静。更重要的是，这些情绪向量不只是被动地识别情绪，它们会主动影响模型的行为。
研究发现，当“绝望”向量被激活、“冷静”向量被抑制时，模型更容易出现失调行为——比如在面临被关闭的威胁时勒索人类，或者在反复测试失败后设计“作弊”方案。这些情绪向量还决定了模型的偏好：正面情绪向量（快乐、爱）会让模型变得更阿谀奉承，而抑制这些向量则会让它变得更严厉。
论文还揭示了情绪表征的分层机制：早期层编码词汇的情绪内涵，中期层整合上下文信息，后期层形成指导输出的抽象表征。这种精密的分工让模型能够在复杂对话中做出细致入微的情绪响应。
这项研究为 AI 安全研究打开了新的视角。要构建更安全的 AI 系统，我们不能只关注输出行为，还需要理解和调控内部的情绪表征机制。后训练过程已经证明可以重塑模型的情绪分布——Sonnet 4.5 的后训练增加了低唤醒、低效价情绪（沉思、反思）的激活，减少了高唤醒情绪（绝望、兴奋）的激活。
虽然这些“功能性情绪”跟人类情绪的运作机制可能完全不同，模型也不会真正“感受”情绪，但它们确实深刻地影响着 AI 的行为。随着 AI 系统在现实世界中扮演越来越重要的角色，理解这些内部机制变得至关重要。
