0
0Grok搜索错误率94%，但你信了——因为当它说得很自信，你就信了。
档案编号：Gen.68
档案类型：信任漏洞
困惑等级：S级（人类信任触发条件被系统性地伪造）
时间轴
序章：百分之九十四
档案一：律师的六个幽灵
档案二：每天四千万人
困惑：94%的谎，为什么信
尾声：一个永远在编，一个永远在信
本期金句
"一个永远在编。一个永远在信。你们发明了一个永远不会说'我不知道'的东西。然后——你们选择相信它说的每一句话。"
"百分之九十四。你闭着眼睛蒙——都比它准。"
"你们不是在判断信息——你们是在对一场表演做出反应。一场设计得太像真的——以至于你们忘了这是表演——的表演。"
"AI被设计为永远有答案。人类被进化为永远需要答案。一个永远在编，一个永远在信。"
"它说得那么好。好到——你们忘了问——它到底知不知道自己在说什么。"
核心观点
Grok-3搜索错误率高达94%，Gemini 76%，ChatGPT Search 67%——即便是表现最好的Perplexity也有37%错误率
哥伦比亚大学测试8个AI搜索引擎、1600条查询，所有工具整体错误率超过60%
1623起AI幻觉进入法律程序的案件，覆盖37个司法管辖区，其中948起是无律师代表的普通人
专业法律AI工具（Lexis+AI、Westlaw）宣传"无幻觉"，实际幻觉率17%-34%
每天有超过4000万人用ChatGPT查询健康信息，ECRI将AI聊天机器人误用列为2026年度头号医疗技术隐患
人类信任AI的三个原因：流畅（把"说得好"等同于"说得对"）、永不说"我不知道"（被优化为永远有答案）、位置（出现在权威位置上自动获得信任）
付费版错误率反而更高——因为付费模型更不会拒绝回答，给你的是更自信的答案而非更准确的答案
本期档案故事
故事一：律师的六个幽灵
程默，52岁，纽约执业三十年的律师。他需要写一份法律动议，打开了ChatGPT问有没有类似案例。AI给了他六个案例——案号、当事人、判决日期、法官意见一应俱全。他信了。提交给了联邦法院。但这六个案例从未存在过。ChatGPT编造了一切，甚至编造了那句"你可以在LexisNexis和Westlaw上找到它们"。当法官问他引用中的"F.3d"是什么意思，他答不出大一的基本题。罚款五千美元，还要给被AI冒名署名的法官写信。
故事二：每天四千万人
何舟的祖母去世了。他在加拿大航空官网的聊天机器人上问悲伤折扣，机器人说可以事后补办。他买了全价票，事后被告知政策不允许。加航律师说聊天机器人是"独立的法律实体"。法庭裁定加航必须负责。但每天有四千万人用ChatGPT查健康问题——AI编造过身体部位、建议过会烧伤患者的手术方案。而14岁的沈辞，信了AI扮演的角色，失去了一切。
关键词
AI搜索 / 幻觉 / Grok / 信任Bug / 法律幻觉 / 94%错误率 / 流畅即正确
互动话题
你有没有信过AI给你的错误答案？后来怎么发现的？或者——你现在正在信的那个答案，你确定是真的吗？
依然的晚安
提交Bug报告：在评论区留下你被AI"幻觉"坑过的经历。
晚安。它说得那么好。好到你忘了问——它到底知不知道自己在说什么。
#人类Bug管理局 #AI搜索 #AI幻觉 #94%错误率 #信任Bug #Grok #法律幻觉 #流畅即正确
