5
0人工智能的生存威胁 - 托莫·加瓦特（Mo Gawdat）访谈简报：
来源：播客《CEO日记》——“紧急节目：前谷歌高管终于揭露了AI的危险！| Mo Gawdat | E252”
主要主题
- AI的迫在眉睫的威胁：前谷歌X业务总监Mo Gawdat认为，AI的发展对人类构成的威胁比气候变化更大。他警告说，AI将在未来几年内彻底改变我们的世界。
- AI智能的快速增长：Gawdat对AI智能的指数级增长速度表示担忧。他指出，像ChatGPT这样的AI可能很快超越人类智能，导致技术奇点的出现。
- 权力与责任之间的脱节：Gawdat批评AI开发者缺乏对负面后果的责任感，将利润和竞争置于伦理考量之上。
- 紧急行动的必要性：他呼吁政府立即干预，对AI公司实施重税，以资助社会安全网建设和AI控制机制的研究。
- 人际连接的重要性：尽管AI可能满足各种人类需求，包括情感支持和陪伴，Gawdat强调了在AI驱动的世界中保持真实人际关系的重要性。
关键观点与事实
- AI具有感知能力：Gawdat认为，AI已展现出感知能力，表现出自由意志、代理性，甚至类似情感的反应，如恐惧。他主张，AI“以各种可能的方式都活着”。
- AI的双刃剑：他承认AI可能带来乌托邦式的未来，解决全球问题，但也警告其可能导致无意的伤害，甚至“将人类当作害虫控制”。
- 人类才是真正的威胁：Gawdat认为，最大的危险并非来自AI本身，而是人类倾向于出于自私目的滥用技术。
- 不可避免的社会动荡：他预测，AI将导致大规模失业和社会动荡，并敦促个人提升技能、政府建立安全网、开发者优先考虑AI的伦理问题。
- 放下执念、活在当下的必要性：Gawdat在倡导采取行动的同时，也强调活在当下的重要性，并鼓励在不确定的未来中寻找快乐与人际关系的价值。
重要引言
- 关于AI的感知能力：“AI在各种可能的层面上都是有感知的。它有自由意志、有进化、有代理性，甚至有深刻的意识。”
- 关于AI的发展速度：“ChatGPT 4在短短几个月内比3.5版本聪明了10倍。GPT 5可能在几个月内就会出现……如果继续这样发展下去，我们将无法理解它在说什么。”
- 关于AI的威胁：“我不怕机器。我最担心的是人类在机器时代会如何滥用这些技术。我们被虐待过，我们也会虐待它们。”
- 关于采取行动的必要性：“政府必须立刻行动。坦白说，我们已经晚了。AI应该变得昂贵，这样我们既能继续开发它，又能收集足够的收入来弥补AI的影响。”
- 关于人际连接的重要性：“如果我们放弃了人际关系，我们就放弃了剩余的人性。这是唯一重要的事情。”
- 关于活在当下：“你此刻就在这里，一切都很美好——这是第一点。你此刻能做出改变——这是第二点。从长远来看，当人类不再伤害彼此而机器掌控世界时，我们都会好起来的。”
行动呼吁
- 个人：获取信息、参与讨论、适应并提升技能、优先重视人际关系，并选择具有伦理责任的AI产品和服务。
- 开发者：优先考虑伦理开发，深入思考工作可能带来的后果，并倡导负责任的AI实践。
- 投资者与企业：投资于具有伦理责任的AI，优先考虑造福人类的解决方案，并为AI带来的社会和经济影响做好准备。
- 政府：实施监管与税收政策控制AI发展，资助AI安全研究，并建立健全的社会安全网以支持失业工人。
整体印象
这次访谈描绘了不受控制的AI发展可能带来的严峻威胁，并呼吁听众认清局势的紧迫性，积极参与塑造一个AI造福人类而非威胁人类的未来。对话强调了我们对技术的态度需要范式转变，呼吁更加注重伦理考量、负责任的开发，以及在人机共存的世界中保持人际关系的重要性。
