我们总感觉AI越来越无所不能,但今天,我们要从几篇最新论文出发,给这份狂热踩一脚“科学的刹车”。我们会探讨AI为何读完人类所有书籍,却依然有无法跨越的语言天堑,并揭示其看似复杂的内部机制,其实隐藏着一个更简单的“有效维度”。同时,我们也会发现,解决最棘手问题的,有时反而是被我们忽略的“笨办法”,而看似混沌的AI训练过程,竟然也遵循着可以预测的“伸缩法则”。准备好了吗?让我们一起拨开AI的迷雾,看见那些真正重要的底层规律。
AI读完了整个人类图书馆,为什么还是不懂你?
最聪明的办法,常常是那个“笨办法”
AI界的“孙子兵法”,如何用有限的资源打赢无限的战争
AI大模型里的“降维打击”,你看见的复杂,不是真的复杂
为什么好的目标,也会带你走上岔路?
本期介绍的几篇论文:
[CL] A Formal Limitation on Learning Human Language From Textual Corpora
[Universitat Pompeu Fabra & ETH Zürich]
---
[CL] Sliding-window beats linear attention
[Microsoft]
---
[CV] How Far Can 5,500 Hours of Driving Take You? A Scaling Law Analysis of Video Diffusion Models
[valeo.ai]
---
[LG] The Approximation Rank of Softmax Attention: Sharp Geometric Laws and Robust Interaction Dimension
[Nanyang Technological University & CMU]
---
[LG] How Proper Scoring Rules Shape LLM Forecasting
[Lightning Rod Labs & INSEAD & University of Pennsylvania]
![[人人能懂AI前沿] AI的边界、捷径与法则:从语言的极限到效率的公式](https://image.xyzcdn.net/FqWpK8fpivLboaqBbRHUe_BCOvxu.png@small)