29
0智能涌现：AI时代的思考与探索 (张亚勤)
主要主题：
- 人工智能 (AI) 作为第四次工业革命的技术基石： 强调 AI 对当今和未来的社会、产业和经济发展的核心推动作用。
- 通用人工智能 (AGI) 的发展与前景： 探讨 AI 从弱智能向通用智能演进的趋势，以及具身多模态通用智能的重要性。
- 物理世界与生物世界的数字化 (数字化 3.0)： 阐述数字化浪潮从内容和关系数字化，扩展到对现实世界物体、物质和生物体的深度数字化，促进物理、数字和生物世界的融合。
- 数字经济的演进 (数字经济 3.0)： 分析数字经济从原子到比特，再回归原子的发展过程，强调在线经济与实体经济的深度融合，以及“智能+”作为“互联网+”的延伸。
- 自动驾驶作为 AI 应用的典型案例： 深入探讨自动驾驶的技术挑战、发展机遇、产业化前景和对汽车行业的颠覆性影响，强调单车智能与车路协同的重要性。
- AI 在科学研究中的应用 (科学智能)： 探讨 AI，特别是大模型和生成式 AI 如何赋能科学发现，改变科研范式，尤其是在生物医药、化学和材料等领域。
- AI 发展的风险与治理： 识别并讨论 AI 发展伴随的潜在风险，包括失控、恶意滥用、虚假信息和对社会结构的影响，并提出负责任的 AI 发展原则和治理建议。
- 创新环境与人才培养： 探讨高校和研究院所在基础研究、人才培养和产学研结合方面的作用，以及中国在第四次工业革命中的机遇。
- 对未来的乐观展望： 尽管存在挑战和风险，整体上对 AI 带来的未来机遇和人类发展持乐观态度，认为 AI 将提升生产力、改善生活质量并催生新的职业和生活方式。
最重要的想法和事实：
- AI 是第四次工业革命的技术基石： 张亚勤在 2016 年世界经济论坛上就提出了这一观点。他认为：“人工智能必然是这个时代最重要的技术变革力量”。正如蒸汽机是第一次工业革命的起点，AI 承载着启动第四次工业革命的重任。
- 通用人工智能 (AGI) 的临近： 许多创新前沿的专家认为，我们离 AGI 已经很近。未来的 AI 系统，如机器人和自动驾驶车辆，将具备足够的本领感知、理解物理世界，并在与各种人、事、物交互过程中产生更高、更类人的智能。“未来的世界，一定是一个人与机器和谐相处的世界。”
- 数字化 3.0：物理世界与生物世界的数字化： 数字化正在从内容和关系层面深入到物理世界（如工厂、汽车的数字化映射和连接）和生物世界（如大脑、身体器官、DNA 的数字化）。数字化 3.0 的核心是信息、物理与生物形态的融合，“这是今后很长一段时间内最重要的产业进化方向”。
- 数字经济 3.0：从比特回归原子： 数字经济正从在线经济阶段（比特世界）向与实体经济深度融合阶段（回归原子）迈进。“‘智能+’是‘互联网+’的延伸和下一站”。AI 赋能的交通、物联、生命科学、机器人等领域将出现技术突破和体验跃升，带来巨大的经济影响力。
- 自动驾驶：万亿级赛道与破局之路： 自动驾驶被认为是汽车行业革命的关键技术，有望成为主流出行方式和万亿级赛道。其实现不仅在于计算机技术的革新，更在于感知、规划、决策等多个环节的突破以及高精度地图、雷达等基础装置的支持。“只要有了更多的投入和基础装置准备，它的发展就比大多数人想象的要快。”
- 自动驾驶的技术挑战与解决方案： 主要技术挑战包括复杂多变的交通环境、单车感知长尾问题以及规模化商业化落地成本。应对挑战的关键在于新的 AI 技术与车路协同。通过多传感器融合和车路协同，可以实现更全面、更安全的感知和决策。
- AI 赋能科学发现： AI，特别是大语言模型和生成式 AI，正在改变科学研究范式，推动科学智能发展。例如，在生物医药领域，AI 可用于分子生成、蛋白质工程、抗体设计、小分子药物和酶设计，大幅加速药物研发过程。“AI 不仅具备颠覆互联网内容生产模式及相关生产力的潜力，还有可能在生物医药及其他科学领域发动一场改天换地般的变革。”
- 大模型的“涌现”现象： 当模型的参数体量和数据量达到一定规模时，智能会呈指数级上升，出现准确度和可预测性的跳跃式提高，即“涌现”现象。“我们还不清楚具体的数学模型或者因果关系。”但这表明大模型能从海量数据中找到真正的架构和规律。
- AI 发展的核心要素： 算力、数据和算法是影响 AI 性能表现的三个基础要素。算法是核心，决定 AI 能否创造价值；算力和数据是底座。当前算力成为最大挑战，需要新的模型、算法和框架来提升效率。
- 负责任的 AI 发展原则： 提出 AI 发展的三个原则：积极响应（为社会创造价值）、韧性发展（关注安全、可解释性、隐私保护）和坚守价值（理解技术意义和后果）。“技术是工具，要为人类服务。”
- AI 风险与全球治理： AI 发展伴随高风险，包括虚假信息、失控和恶意滥用。降低 AI 灭绝风险应成为全球优先事项。需要建立严谨的分级评估体系、强调实体映射和可追溯性、加强国际合作和治理机制，如模型注册、第三方审计、风险评估和应急预案。“人工智能安全是全球的共同利益。”
- 中国在 AI 领域的机会： 中国在数字经济基础设施建设、国家战略重视以及车路协同等领域具有优势，有机会在第四次工业革命中成为开创者和引领者。自动驾驶等领域也已初步确立“先发”优势。
- 个人在 AI 时代的应对： 建议年轻人保持好奇心，做永恒的学习者；拥有独特的观点和视角，不随波逐流；将伦理和人文精神放在心中；理解人生是赛场而非战场。
- AI 的未来趋势： 包括跨模态、多模态和多尺度大模型；新的算法框架；自主智能；边缘智能；物理智能（具身智能）和生物智能。
- AI 与人类的未来： 认为未来的智能是人类智能与机器智能的融合 (HI+AI)，机器将成为人类能力的延伸。AI 的发展将大幅提高生产力，解放人类，使人们有更多时间追求有创意、有价值的工作和享受生活。“未来 20 年的人类是一个新的物种，是人类智能 + 人工智能。”
这份简报旨在为您提供文中核心思想的快速概览。如需更深入的了解，建议仔细阅读原文。
人工智能涌现是什么？
人工智能涌现（Emergence）是指当模型的参数体量和数据量达到一定规模时，其性能和准确度会呈现跳跃式的提升，展现出之前未曾预料到的能力。这种现象在目前的大语言模型中尤为明显，当参数达到百亿规模时，准确度和可预测性会显著提高，仿佛模型“开窍了”。虽然具体的数学模型和因果关系尚不清晰，但这表明了规模定律对人工智能性能提升的重要影响。
如何理解数字化 3.0 和数字经济 3.0 的概念？
数字化 3.0 标志着信息技术发展进入了一个新的阶段，强调物理世界和生物世界的数字化以及数字世界与现实世界的融合。与数字化 1.0（内容的数字化，如数字电视、数码相机）和数字化 2.0（关系的数字化，如互联网、移动支付）不同，数字化 3.0 将更多现实存在的物体、物质在数字世界中映射，实现物与物、物与人、物与智能的连接。例如，工厂可以实现数字化大脑和“黑灯工厂”模式，汽车将发展到 L4/L5 级别的自动驾驶。数字经济 3.0 是数字化 3.0 催生的新经济形态，其特征是在线经济与实体经济的深度融合，即从“比特”回归“原子”。“智能+”作为“互联网+”的延伸，将人工智能赋能于交通、物联、生命科学等领域，释放巨大的经济影响力。
人工智能在科学研究领域有哪些新的机遇和应用？
人工智能驱动的科学研究正进入“第四范式”或“第五范式”，由数据驱动并融合深度学习方法，改变了传统的科研方式。具体而言，人工智能在新药研发、蛋白质工程、小分子药物设计、新材料设计等生物、化学、材料领域展现出巨大潜力。生成式 AI 和大模型不仅可以处理自然语言和整合知识，还能应用于分子生成和蛋白质结构分析，极大地加速了科学发现和实验过程。例如，利用大模型学习海量的蛋白质序列数据，可以增强或取代传统的蛋白质理解和抗体设计方法；运用 AI 模型可以大幅加速小分子药物的虚拟筛选过程，将耗时数年缩短至几秒。
自动驾驶技术面临哪些主要的挑战以及如何应对？
自动驾驶技术面临的主要挑战包括：1. 交通环境变化规律不够清晰，难以应对特殊场景下的突发问题（泛化能力不足）。2. 单车感知在长尾问题（罕见或极端情况）上面临限制，影响运行设计域（ODD）。3. 规模化和商业化落地成本高。应对这些挑战的关键在于：1. 发展新的 AI 技术，特别是提升模型的泛化能力和透明性、可解释性，通过海量数据不断迭代算法。2. 推动车路协同，将单车智能与路侧智能化基础设施联动，实现信息、侦测感知、决策控制的协同，提升感知范围和能力，解决长尾问题，提供安全冗余。3. 利用 RSR（Real-world Simulation to Real-world）模式，通过仿真推演降低研发和迭代成本，加速技术落地。
如何看待人工智能与人类智能的关系？
人工智能，特别是强大的通用人工智能（AGI），被视为人类智能的放大和延伸，而不是简单的替代。未来的智能是人类智能（HI）与机器智能（AI）的融合（HI+AI）。机器在处理大量数据、进行重复性任务、以及在某些特定领域（如策略游戏、蛋白质折叠）表现出超越人类的能力。然而，人类智能包含情感、自我意识和某些层面的创造力，这些是当前 AI 尚未完全具备或理解的。AI 的发展可以解放人类从事重复性工作，让人类有更多时间进行创造性活动和自我发展。人工智能可能会发现人类自身未曾认识到的智能，同时也可能展现出我们不了解的新智能维度。
人工智能的发展带来了哪些潜在风险，应该如何进行安全治理？
人工智能的快速发展伴随着多种潜在风险：1. 虚假信息、幻觉和有毒内容的泛滥。2. 大模型可能失控并被恶意利用。3. 将大模型应用于关键系统（如金融、银行、政策制定）可能带来更大的潜在风险，甚至可能导致人类不可逆转地失去对自主 AI 系统的控制，引发灾难性后果，包括大规模犯罪、自动化冲突和普遍监控等。应对这些风险需要多方面的努力：1. 建立严谨的分级评估体系，特别是针对前沿大模型，进行合规监管并约束其使用场景。2. 推行实体映射原则，明确 AI 生成内容的来源和责任主体，确保可追溯。3. 优先发展人工智能安全技术研究，将其视为与能力发展同样重要的方向，并加大投入。4. 构建国家和国际治理体系，制定预防标准，包括模型注册、第三方审计、风险评估和管理策略。5. 开展独立的全球人工智能安全与验证研究，确保验证方法的可靠性。6. 推动应急准备协议和制度的建立，包括事故报告和应急预案。7. 建立安全保障体系，要求开发者提供高可信度的安全案例，并进行部署后的监控。
面对人工智能时代，年轻人应该如何应对和准备？
在人工智能时代，年轻人需要成为具备强适应能力的永恒学习者，因为知识更新速度很快，要掌握学习新知识、分辨信息、简化和抽象问题的能力。其次，要保持独特观点和视角，不要随波逐流，因为独特性是应对复杂世界的最宝贵资产，也是 AI 无法生成的。第三，要将伦理和人文精神放在心中，理解技术背后的意义和可能带来的后果，将价值观置于技术之上，积极利用 AI 为社会创造价值。最后，要明白人生是赛场而非战场，通过公平竞争激发潜力，并大胆尝试找到适合自己的道路。
中国在人工智能，特别是自动驾驶和基础研究领域的发展现状和未来前景如何？
中国在人工智能和数字经济领域发展迅速，数字经济已成为经济的核心支柱。政府将人工智能提升到国家战略高度，并在网络、计算等基础设施建设上持续加大投入。在自动驾驶领域，中国已初步确立“先发”优势，政策层面给予大力支持，并在测试和投融资方面投入力度更大，产业链更活跃。中国在车路协同技术上给予足够重视，并确定其为智能网联路径方向，这为自动驾驶提供了新的发展思路和优势。尽管基础理论和颠覆性技术原创性仍需努力，但中国在应用侧的研究和产业化方面进展显著。未来，中国有机会在第四次工业革命中成为某些领域的开创者和引领者。
NotebookLM 提供的内容未必准确，请仔细检查回答内容。
