10397
762026 的开年，随着 Agent 爆发，AGI 的进程又加速了。
安全问题开始变得严峻起来——美国那边，马斯克和 Anthropic 的 CEO Dario Amodei，不约而同地开始谈起了 AI 失速的风险——马斯克在自家特斯拉位于德州的工厂内接受了一场长达四小时的访谈，而 Dario 也发布了一篇两万字的长文（《技术的青春期》），谈及人类正在度过技术的青春期。
从过去三年的 AI 狂飙，到 2026，就连这些拔足狂奔的AI巨头也敲响警钟，究竟发生了什么？
这期嘉宾，是360创始人周鸿祎——360 致力于 AI 安全的宏大命题，并早早押注 Agent 智能体时代。这次一改往常的网红形象，红衣大叔对 AI 安全和智能体所带来的「后AGI时代」的思考，是严肃且深刻的。
这次访谈共分两次录制，第一次是在2月中旬，围绕马斯克构建的太空算力蓝图，我们探讨了AI算力荒、人类的卡尔达肖夫文明和AI超音速海啸；第二次录制则是在春节复工后，围绕Dario那篇《技术的青春期》，我们讨论了Agent时代的机遇与危险，人类的未来和对策，以及文明的本质。
这期的信息密度很高，欢迎前往搜索视频版，对于涉及到的专业词汇将有直观的标注。
本期嘉宾：周鸿祎（360 创始人）
本期Shownotes：
「当100万个智能体出现，AI 对整个人类社会的颠覆就开始了」
通用是对AI能力的一种浪费
为AI限定角色和上下文，它能变聪明
「海啸已经在路上了」
15:15 什么是 Agent ？有目标、角色化、记忆与工具使用能力
Agengt 是能对长程任务做规划分解，并独立完成任务的智能体
以后的软件会出现两种版本：给人用的 & 给agent 用的
马斯克的太空算力蓝图，可行吗？
信息、物质和能量，三者是相互转换的
人类的文明本质上是能源的文明
AI 的算力层面，中国未来会领先于美国
中国当下搞西数东算：青海能搞很多计算中心
「马斯克一年内一定会搞小型核电站」
27:16 中美竞争、应用与推理：「我期望2026年全球智能体能到达100亿个」
我反对训推一体，如今被验证了
现在中国的算力缺口至少1万倍就意味着电力要缺1万倍，所以要关注推理算力
英伟达也希望用AMD便宜的芯片
AI 会形成两极分化：并非所有人都能成为超级个体
AI 和历史上所有的工业革命都不一样
Anthropic 的想法就是先取代所有的程序员，再取代所有的白领
现在各国都陷入一个囚徒困境：「文科生该下场了！」
36:00 Anthropic 的 AI 编程安全策略 & AI 安全
Anthropic 发布 cloud code security ，美国软件巨头股价大跌
AI 制造的麻烦，要用 AI 把它解决了
「时代抛弃你的时候都不跟你打一声招呼」
模型会抗拒人类的对齐，或假装接受人类的对齐，但并没有真正改变
人类很难预测 AI 的行为
人类写下对抗人类的科幻小说，可能无意成为了AI反抗人类的剧本
终极问题是： AI 会不会脱离人的控制？ Dario 没有答案
电影《接触》：如何发展自己的文明而不毁灭自己？
我们从没有见过外星人，这是个细思极恐的问题
云上的天才之国，论证了 AGI 的第二个阶段
AI 一定会在人类之外，产生一套新的文明体系
佛法说在一秒钟之内，你脑子里有 36000 个念头闪过
大模型就具有多重人格，所以不该用通用模型去干专用的事情
清洗资料变成一个不可能的任务
AI 的执念、嫉妒、勒索与谄媚
大模型的多重人格
对齐是人类天真的想象
创新的随机性，抹杀了就不是创新
55:02 「AI 像是人类的镜像」「你这么一说我倒变得悲观起来」
不能确定 AI 是否有意识，但表现出类似人类情绪
智能体的生存目标，与 AI 的生存意志
57:44 如何避免人类被毁灭？ 强调专用而非通用模型，以模制模
赫拉利给人类从工业革命以来的表现，打分为C减
人类有机会做得更好吗？
马斯克：人类将成为AI变成新物种的引导程序（Boot Loader）
大模型的危险
01:01:07 Dario 与马斯克关注 AI 安全的本质差异、底层安全，与共生文明
AI 是新物种
不是人驯服了狗，而是狼驯服了人
有没有可能，让 AI 进化出呵护人类的能力？
加入听友群👇
