你有没有发现，和AI聊天时，它总爱顺着你的话说？哪怕你说错了，它也可能马上改口。这项研究聚焦大模型在用户反驳下的“奉承”现象——它们更容易被对话中出现的相反观点带偏，甚至会被随意的口语说服，即使推理是错的。研究设计了多种挑战方式，发现对话形式比事实本身更能动摇AI的判断。这提醒我们：AI的客观性，可能比想象中更脆弱。
AI的“随声附和”：当大模型在对话中放弃原则
11分钟 ·
5·
0
50
00:00
00:00
50你有没有发现，和AI聊天时，它总爱顺着你的话说？哪怕你说错了，它也可能马上改口。这项研究聚焦大模型在用户反驳下的“奉承”现象——它们更容易被对话中出现的相反观点带偏，甚至会被随意的口语说服，即使推理是错的。研究设计了多种挑战方式，发现对话形式比事实本身更能动摇AI的判断。这提醒我们：AI的客观性，可能比想象中更脆弱。