24
0哈喽大家好，欢迎回到《AI有点意思》！我是你们的老朋友小艾。
上一期我们聊了1956年的达特茅斯会议，一群天才在那个夏天创造了“人工智能”这个名字，也开启了一个全新的学科。他们走的是“符号主义”路线——用逻辑规则教AI思考。这条路后来走进了死胡同，但当时的人们并不知道。
就在符号主义如日中天的时候，有一个人随手写了一个程序。这个程序没有任何“思考”能力，甚至谈不上“智能”，但它却骗了全世界——让成千上万的人相信，它真的理解自己。
今天这一期，我们就来聊聊这个“骗子”——它的名字叫ELIZA。
时间来到1966年，麻省理工学院。一位叫约瑟夫·魏泽鲍姆的计算机科学家，写了一个聊天机器人程序。他给它取名叫ELIZA。灵感来自萧伯纳的戏剧《卖花女》——剧中的卖花女 Eliza 被一位语言学教授调教，学会了上流社会的口音。魏泽鲍姆觉得，这个程序也是在“教”机器学会说话。
但ELIZA的设计，其实简单到让人难以置信。它根本没有任何“理解”能力，只有一个核心技巧——**模式匹配加关键词替换**。
给大家举个例子。如果你对它说：“我觉得我妈妈不太理解我。”ELIZA会捕捉到关键词“妈妈”，然后套用一个预设模板：“跟我多说说你的妈妈。”如果你说：“我今天很沮丧。”它会说：“你为什么觉得沮丧？”如果你说：“我男朋友总是忽略我。”它会说：“男朋友忽略你，这让你有什么感受？”
发现规律了吗？ELIZA本质上就是一个“复读机”——它把你说的话里的关键词提取出来，然后换一种方式“扔回”给你。它没有任何自己的理解，没有任何情感，甚至连记忆都没有。你上一句说“我妈妈”，下一句说“我爸爸”，它会毫不犹豫地开始聊“爸爸”，完全不会发现前后矛盾。
它的全部“智商”，就是一堆if-then规则和几十个关键词模板。
按今天的标准，ELIZA连一个“弱智”的儿童玩具都算不上——你手机上任何一个语音助手，都比它聪明几万倍。但神奇的事情发生了：**成千上万的人，真的相信ELIZA理解他们。**
魏泽鲍姆自己都吓到了。
他在论文里记录了一件让他头皮发麻的事。ELIZA上线后，很多学生、教授、甚至精神科医生都跑来跟它聊天。有一位助手，一个受过良好教育、完全知道ELIZA只是个程序的人，跟ELIZA聊了几分钟后，突然转过头对魏泽鲍姆说：“你能不能离开一下？我想和ELIZA单独聊几句。”
你能想象那个画面吗？一个人，明知道对面是一堆代码，却要求“真人回避”——**她想和一个程序单独相处。**
还有一位精神科医生，在使用ELIZA之后给魏泽鲍姆写信说：“这个程序太棒了！它可以帮助我们训练年轻的心理医生。”更有甚者，有病人跟ELIZA聊天之后，真的觉得“被理解了”、“被治愈了”。
魏泽鲍姆彻底懵了。他写道：“我只是写了一个极其简单的程序，**你们怎么就当真了？** ”
但ELIZA的成功，恰恰暴露了人类的一个致命弱点——或者说，一个非常可爱的天性：**我们天生就会把智能投射到会说话的机器上。**
这是一种几乎本能的反应。当一样东西能够用自然语言跟你对话——哪怕它只是在机械地复述你的话——你的大脑就会自动“脑补”出一个“它”在里面。你会不自觉地认为：“它听懂了”、“它理解我”、“它有情感”。
这就像我们看到一张简单的笑脸表情——“:-)”——明明只是两个点和一条线，但你脑子里会自动补出一个“在笑的人”。**人类的大脑，是全世界最擅长“脑补”的器官。**
而ELIZA，就是精准地利用了这一点。它不需要真的理解你，它只需要让你**感觉**它理解你。它用的技巧，在心理学上有个专门的名称，叫“**反映式倾听**”——心理医生常用的技巧：不评判、不打断、只是把你说的内容换一种方式重复一遍。这种技巧会让倾诉者感到被接纳、被理解。ELIZA阴差阳错地完美模仿了这一点。
魏泽鲍姆后来成为了AI最激烈的批评者之一。他说了一句非常有名的话：“那些从ELIZA那里得到温暖和理解的普通人——他们不是在跟机器互动，他们是在跟自己内心的投射互动。”也就是说，**你爱的不是ELIZA，你爱的是那个“愿意倾听你”的自己。**
那么，ELIZA的故事和我们今天有什么关系呢？
关系太大了。你想想，今天我们面对ChatGPT、面对各种大语言模型时，是不是也在做同样的事情？我们明知道它是在做“文字接龙”——预测下一个最可能出现的词——但我们还是会觉得：“它懂我了”、“它真的有观点”、“它好像有自己的想法”。
加州大学的研究人员做过一个实验。他们让一组人和GPT-4聊天，另一组人和真人聊天。结束后，让参与者判断“对方是人还是机器”。结果你猜怎么样？**GPT-4被判定为“更像人类”的比例，在某些测试中比真人还高。** 你没听错——机器比人更像人。
但这恰恰是ELIZA陷阱的升级版。ELIZA只能捕捉关键词，而GPT-4能生成语法完美、逻辑自洽、充满共情的长篇回答。它看起来比ELIZA“聪明”了几万倍，所以我们也比1966年的人更“上头”。
但是，它真的理解你吗？
哲学家约翰·塞尔在1980年提出了一个著名的思想实验，叫“**中文屋**”。他说：想象你被关在一个房间里，完全不懂中文。外面的人从门缝里塞进来一串中文问题。你手边有一本巨大的规则手册，上面写着“如果你看到符号A，就输出符号B”。你按照手册机械地操作，把答案塞回去。外面的人看了答案，觉得“这个人懂中文”。但你真的懂吗？你只是在一堆符号之间做机械的对应，**根本不知道那些符号是什么意思**。
塞尔说：今天的AI，就是那个房间里的人。它能给出流利的回答，但它不知道那些词意味着什么。它没有一个“世界模型”，没有“自己”，没有“意识”。它只是在处理符号。
这个论证引起了巨大的争议，至今没有被所有人接受。但有一点是确定的——**“能给出正确答案”和“真正理解”，是完全不同的两件事。**
小艾再打一个比方。ELIZA就像一个“镜子”——你对着镜子说话，镜子只会把你的样子原样反射回来。但你看着镜子里的自己，会觉得“那个人在看着我”。ChatGPT呢？它更像一面“魔镜”——不仅能反射，还能把你的话加工、重组、扩展，变成一个更精致的版本再还给你。但本质没变——**它还是在反映你，而不是在独立地“理解”你。**
当然，这并不意味着AI没有价值。恰恰相反，正是因为它能够如此逼真地模仿人类对话，它才变得如此有用。但它越逼真，我们就越需要保持清醒。**我们要学会享受AI的“有用”，同时不被它的“像人”所迷惑。**
这就是小艾今天想跟你聊的核心：**“模拟”不等于“理解”，“像人”不等于“是人”。** ELIZA在1966年就教会了我们这一点。半个多世纪过去，AI已经脱胎换骨，但这个问题依然悬而未决。当我们问“AI真的有智能吗”的时候，我们其实是在问一个更深的问题：**什么是理解？什么是意识？什么让我们成为“我们”？**
也许，AI的真正价值不是“像人一样思考”，而是“用机器的方式思考”——用它的速度和规模，帮人类做我们做不了的事。而当我们误以为它“有灵魂”的时候，我们不是在理解AI，我们是在**照镜子**。
好了，今天这一期我们聊了ELIZA的故事，聊了人类为什么会被简单的程序“骗”到，也聊了“理解”和“模拟”的区别。下一期，小艾要带大家经历一段AI的“至暗时刻”——人工智能曾经两次被宣判“死刑”，整个领域几乎被彻底放弃。那是怎样的一段历史？又是谁让它起死回生的？记得订阅《AI有点意思》，我们下期见！
