[人人能懂AI前沿] 从上下文回路、拒绝“超长记忆”到超越打分机

[人人能懂AI前沿] 从上下文回路、拒绝“超长记忆”到超越打分机

26分钟 ·
播放数75
·
评论数0

本期我们将硬核拆解五篇最新论文,带你彻底打破关于AI和人类心智的“效率幻觉”。我们将探讨底层的分词器如何暗藏偏见,揭秘AI为何不需要“超长记忆”也能干好重活,并拆开黑盒看懂它“现学现卖”背后的神经回路。此外,我们还会看看AI如何通过一张限制视野的“草稿纸”实现算术零错误,以及为什么单纯的“打分机制”教不出真正的顶尖高手。准备好给大脑来一次系统升级了吗,我们马上开始!

00:00:36 为什么“浓缩”不一定是精华?戳破关于聪明的三个错觉

00:05:47 别被“超长记忆”骗了,揭示真正的高手思维

00:10:32 哪怕只看一遍,AI凭什么能“现学现卖”?

00:15:57 别让大脑硬扛,一个让AI永不出错的奇妙思路

00:20:22 为什么光靠“打分”教不出顶尖高手?从训练AI看懂真正的高效成长

本期介绍的几篇论文:

[CL] Tokenizer Myths and Where To Find Them

[Stanford University]

arxiv.org

---

[AI] You don't need long context

[NVIDIA]

arxiv.org

---

[CL] A Circuit for In-Context Learning

[Stanford University]

arxiv.org

---

[LG] Sketchpad: certified exact arithmetic with a small vision-language model

[MIT]

arxiv.org

---

[LG] Stabilizing On-Policy Targeted Guidance in Agentic Reinforcement Learning

[Cursor Research & UC Berkeley]

arxiv.org