大语言模型能力强大，却暗藏偏见与安全风险。传统评估方法依赖污染、通用的问题，难以区分模型间细微价值差异。AdAEM作为一种自我扩展的动态评估算法，通过信息论目标主动挑选最有争议性的话题，不断生成并精炼问题，解耦问题本身的价值倾向，从而精准揭示不同文化、不同时代模型的价值边界。它既能持续追踪模型价值变化，也为AI对齐研究提供了更坚实的基础。
原文：arxiv.org
大模型价值观怎么评？AdAEM用动态问题找出模型差异
8分钟 ·
9·
0
90
00:00
00:00
90大语言模型能力强大，却暗藏偏见与安全风险。传统评估方法依赖污染、通用的问题，难以区分模型间细微价值差异。AdAEM作为一种自我扩展的动态评估算法，通过信息论目标主动挑选最有争议性的话题，不断生成并精炼问题，解耦问题本身的价值倾向，从而精准揭示不同文化、不同时代模型的价值边界。它既能持续追踪模型价值变化，也为AI对齐研究提供了更坚实的基础。
原文：arxiv.org