都说AI变聪明要靠“大力出奇迹”,但如果这个“大力”用错了地方,会发生什么?今天,我们就从几篇最新论文出发,聊聊为什么给AI请个“私教”比题海战术更有效,为什么看似无害的数据重复会悄悄吃掉你三分之一的预算,以及为什么那个更快的AI,反而会让你等得更久。我们还会揭示AI“抠门”的智慧,以及藏在模型变强背后,那套如同物理定律般的神秘“公式”。准备好了吗?让我们一起刷新对AI的认知!
AI的私教,如何让机器给自己出“最合适”的题?
AI 模型的“垃圾食品”,为什么重复数据会悄悄吃掉你三分之一的预算?
为什么那个更快的AI,反而让你等得更久?
“抠门”的智慧,如何打造便宜又好用的AI?
AI变强的秘密,不是“大力出奇迹”
本期介绍的几篇论文:
[AI] Autodata: An agentic data scientist to create high quality synthetic data
[FAIR at Meta]
---
[LG] Internal Data Repetition Destroys Language Models
[Stanford University & Tel Aviv University]
---
[LG] Quantization Inflates Reasoning: Token Inflation as a Hidden Cost of Low-Bit Reasoning Models
[University of Illinois Urbana-Champaign & Microsoft & Anyscale]
---
[CL] BitNet Text Embeddings
[Microsoft Research & Peking University]
---
[LG] Neural Scaling Universality: If Exponents Are Fixed, Time to Understand Coefficients
[MIT]
![[人人能懂AI前沿] AI的私教、预算黑洞与话痨陷阱](https://image.xyzcdn.net/FqWpK8fpivLboaqBbRHUe_BCOvxu.png@small)