CMU 机器学习博客：预训练还不够苦涩

这篇发表在 CMU 机器学习博客上的文章《Pre-Training Isn't Bitter Enough》，对著名 AI 学者 Richard Sutton 提出的“苦涩的教训”（The Bitter Lesson）进行了深刻反思与拓展。

文章指出，虽然当前大模型的预训练在“如何训练”（如预测下一个词）上遵循了让机器自主学习的规律，但在“应该训练什么”上仍由人类手工设定数据配方和规则，导致预训练反馈闭环极其粗糙，违背了“Bitter Lesson”的初衷。

为此，文章提出了一种名为 V-pretraining 的新方法。它引入一个轻量级的“任务设计器”（教研员），根据极少量的下游任务真实反馈，利用“单步估计”计算梯度内积，动态且自适应地为基础模型（学习器）设计最佳的自监督预训练任务。

实验表明，该方法在不直接提供下游标签的前提下，使 Qwen 模型的数学推理能力（GSM8K 准确率从 22.20% 飙升至 29.60%）和视觉模型的密集预测能力均获得显著提升。

文章最终呼吁：真正的预训练不仅要从数据中学习，更要学会自主决定去预测什么。

原文：blog.ml.cmu.edu