叔读大模型自我修正 | 准确率悖论与错误深度假设

探讨了大语言模型在没有外部帮助下纠正自身错误的能力，将其细分为检测、定位和修正三个维度。作者提出了**“准确率-纠正悖论”，发现性能较弱的模型在自主纠错率上反而优于更强大的模型。研究通过“错误深度假说”对此进行了解释，即顶尖模型虽然错误较少，但其犯下的错误往往更为复杂且难以修复。实验还显示，识别错误的能力并不能预示纠错的成功，甚至提供错误位置的提示反而会降低模型的表现。这些发现挑战了模型能力越高则自愈能力越强的传统认知，为优化模型自我完善机制**提供了新的视角。