6
0总结了Inflection AI首席执行官、DeepMind联合创始人穆斯塔法·苏莱曼在讨论其新书《即将来临的浪潮》时的核心主题和关键见解，重点探讨了人工智能（AI）的潜在影响。
主要主题
- 强大AI的不可避免性：
苏莱曼认为，由于计算能力和数据的指数级增长，高度复杂的AI的出现已成为必然。 - AI管控的紧迫性：
这种不可避免性要求全球专注于遏制AI，减轻其潜在风险，确保它为人类服务。 - 法规的局限性：
虽然法规至关重要，但苏莱曼认为它还不够。他呼吁进行更广泛的文化转变、提高个人意识，并鼓励来自不同利益相关方的积极参与。 - 国际合作的重要性：
由于AI开发的全球性质，成功的遏制需要国家和组织之间的协作，克服竞争动机和地缘政治紧张局势。
最重要的观点和事实
- “悲观规避陷阱”：
苏莱曼指出，尤其是精英圈子中，人们倾向于回避讨论AI的负面影响，这妨碍了关键对话和解决方案的制定。他强调，必须直面“可能发生的严重黑暗结果”。
引言：“许多人……害怕面对AI的风险，假装这要么不会发生，要么结果会一片光明。”
- 遏制难题：
他指出，历史上禁止技术的尝试往往无效，而AI的独特特性——既能造福人类又能造成危害——给遏制带来了前所未有的挑战。
“同样的核心技术既可以用来识别X光片中的癌变肿瘤，也可以用来锁定战场上的目标。”
- 不受控AI发展的风险：
苏莱曼特别提到以下风险：致命的自主武器系统的出现
高度传染性、致命性合成病原体的研发
权力结构和不平等现象的放大，导致社会不稳定
遏制战略：
- 他提出了一个AI遏制的十点计划，包括：开发**“安全AI”**来对抗潜在的有害AI
- 为AI模型实施严格的审计机制
- 建立“瓶颈”控制对高性能芯片和云计算资源的访问
- 对AI公司征收国际税以资助再培训和社会适应
- 培养全球文化，以谨慎和积极的方式应对AI的影响
- 个人行动的重要性：
苏莱曼强调，每个人都应学习AI知识、参与讨论，并主动塑造其未来。
“阅读、聆听、使用这些工具，尝试自己制作工具，了解当前的法规状态……寻找志同道合的人，在线交流，提出这些问题。”
重要引言
- “遏制必须成为可能，否则它将遏制我们。”
- “我们不能让自己从地球上的主导地位上被移除，不能允许这种情况发生。”
- “我们必须正视现实……我们必须以预防原则的方式处理这一问题。”
- “这就是全球化……这意味着某人做出的小小举动可能立刻蔓延全球，无论其意图如何。”
- “在我们确信AI可以被控制、可以服务于我们的共同利益之前，放弃某些潜在的好处是值得的。”
结论
这次访谈突显了应对AI快速发展所带来的挑战的紧迫性。苏莱曼的见解强调了超越恐惧和怀疑，以积极主动的方式遏制AI，并塑造其未来，使其造福全人类的必要性。
