When Both Sides Adapt: The Challenges of Evaluating Interactive LLM Systems

AI 摘要

研究者 Hannah Li 在 arXiv 发表论文，探讨交互式 LLM 系统中用户会随模型回复调整提问策略这一现象对模型评估的影响。论文区分了两种评估目标：在相同提示分布上比较模型的「共同分布效应」，以及在各模型引发的用户交互分布上比较的「诱导分布效应」，并证明离线基准测试与线上 A/B 测试分别对应这两种不同的量。研究指出，两种比较可能给出相反的模型排名和部署建议，论文刻画了排名反转的发生条件并给出排名必然一致的充分条件，还表明用户适应性会增大估计方差，且是奖励黑客、新奇效应等评估难题的共同成因。