Andrej Karpathy — “We’re summoning ghosts, not building animals”

Dwarkesh Patel 对 Andrej Karpathy 的采访《We’re summoning ghosts, not building animals》）及视频页面评论内容，整体可以分为以下几个部分：

🎙️ 一、采访核心内容摘要

1️⃣ AGI 仍有十年之遥

Karpathy 认为通用人工智能（AGI）并非即将到来，目前的模型只是“在召唤幽灵（ghosts）而非构建动物（animals）”，意指 LLM 是语言层面的智能而非具备感知、动机与身体交互的实体智能。

2️⃣ 大模型的认知缺陷（LLM cognitive deficits）

他指出 LLM 在逻辑一致性、长期规划、可解释性与因果理解上存在系统性缺陷。模型看似理解，但实质是统计关联的“幻觉者”。

3️⃣ 强化学习的局限（RL is terrible）

Karpathy 批评传统 RL 算法“样本效率太低、调参太痛苦、通用性太差”，虽然它能在封闭环境（如 Atari 游戏）中奏效，却难以迁移至开放现实世界。

4️⃣ 人类学习机制的启示（How do humans learn?）

他强调人类学习依靠强大的结构先验与世界模型，而非单纯的梯度下降。人类通过生成式预测错误修正、文化模仿与社会强化三重机制成长。

5️⃣ AGI 对经济与社会的影响

Karpathy 认为 AGI 的诞生不会带来突发式经济爆炸，而会如过去 250 年的工业与信息革命一样，平滑融入 2% 年增长率的长期趋势。

6️⃣ ASI 与智能进化（Evolution of intelligence & culture）

他提出智能演化与文化共生——语言、教育体系与社会结构会共同塑造人工智能的发展路径。

7️⃣ 自动驾驶的迟滞原因（Why self-driving took so long）

尽管自动驾驶理论早成熟，但现实复杂性极高（罕见长尾事件、数据标注难、法规滞后），因此进展比预期缓慢。

8️⃣ 教育的未来（Future of education）

他预测 AI 将彻底个性化教育：模型可成为“千人千面”的导师，帮助学习者形成自适应知识结构。

1️⃣ “Karpathy 所说 ‘ghosts’ 与 ‘animals’ 的区别具体指什么？”

2️⃣ “他为何认为 RL 是糟糕的？那 RLHF 算在内吗？”

3️⃣ “为何 AGI 只会延续 2% 增长？不会出现爆炸式 GDP 提升？”

4️⃣ “他目前具体在研究或投资哪些 AI 方向？”

5️⃣ “他对 AI 安全、对齐 (alignment) 的态度是什么？”

关键词趋势：articulate dense thinking healthy skepticism real-world engineer perspective