[人人能懂AI前沿] AI的边界、捷径与法则:从语言的极限到效率的公式

[人人能懂AI前沿] AI的边界、捷径与法则:从语言的极限到效率的公式

27分钟 ·
播放数59
·
评论数0

我们总感觉AI越来越无所不能,但今天,我们要从几篇最新论文出发,给这份狂热踩一脚“科学的刹车”。我们会探讨AI为何读完人类所有书籍,却依然有无法跨越的语言天堑,并揭示其看似复杂的内部机制,其实隐藏着一个更简单的“有效维度”。同时,我们也会发现,解决最棘手问题的,有时反而是被我们忽略的“笨办法”,而看似混沌的AI训练过程,竟然也遵循着可以预测的“伸缩法则”。准备好了吗?让我们一起拨开AI的迷雾,看见那些真正重要的底层规律。

00:00:39 AI读完了整个人类图书馆,为什么还是不懂你?

00:05:39 最聪明的办法,常常是那个“笨办法”

00:09:38 AI界的“孙子兵法”,如何用有限的资源打赢无限的战争

00:16:05 AI大模型里的“降维打击”,你看见的复杂,不是真的复杂

00:21:16 为什么好的目标,也会带你走上岔路?

本期介绍的几篇论文:

[CL] A Formal Limitation on Learning Human Language From Textual Corpora

[Universitat Pompeu Fabra & ETH Zürich]

arxiv.org

---

[CL] Sliding-window beats linear attention

[Microsoft]

arxiv.org

---

[CV] How Far Can 5,500 Hours of Driving Take You? A Scaling Law Analysis of Video Diffusion Models

[valeo.ai]

arxiv.org

---

[LG] The Approximation Rank of Softmax Attention: Sharp Geometric Laws and Robust Interaction Dimension

[Nanyang Technological University & CMU]

arxiv.org

---

[LG] How Proper Scoring Rules Shape LLM Forecasting

[Lightning Rod Labs & INSEAD & University of Pennsylvania]

arxiv.org