376
3据说是GPT-5的关键论文 论文链接
这篇论文里面介绍了一种通用验证器的底层原理：
论文把AI训练分成两类角色：证明者（Prover）和验证者（Verifier）。验证者先设定自己的判别标准，相当于“领导者”；证明者则要写出解答，争取通过验证者的核查。更有意思的是，证明者既可以扮演“帮忙型”——写出正确、易查的推理，也可以扮演“捣蛋型”——写出看似对但其实有错的解答，挑战验证者的识别能力。这样一来，验证者不断提升“火眼金睛”，证明者也被倒逼把推理写得规范、透明。
为什么这种机制能真正提升AI输出的可读性？论文的理论解释是什么？
核心原因有三点：
第一，验证者能力比证明者弱，逼着证明者只能用最直白、最规范的表达方式，否则就过不了核查；
第二，这种对抗机制让验证者和证明者在不断博弈中提升鲁棒性和规范性，输出风格逐步向人类易懂靠拢；
第三，实验发现，能被小模型核查的推理，人类也更容易看懂，可读性提升对人和小模型都成立。
底层原理
论文用的是Stackelberg博弈理论。简单说，Stackelberg博弈是一种“先手—后手”结构：验证者先定策略，证明者观察后做最优回应。这样，验证者可以提前设定评分标准，证明者必须写出易查且正确的推理才能拿高分。如果证明者想作弊，验证者已有最优判别策略拦截。在理论上的Stackelberg均衡里，输出天然满足“完备性+稳健性”，也就保证了可验证性。
