Sketching Language Models for Context Attribution

AI 摘要

研究者提出一种用于语言模型上下文归因的草图算法，可在稳定性假设下以 O(√log(1/ε)/ε) 次模型调用估算全部留一归因值，误差与 ε 成正比，并证明该调用次数下界与之匹配；实验验证了系数衰减与稳定性一致，并在小型语言模型检索任务上测试了算法表现。

上下文归因回答的是「提示里哪几个词真正影响了输出」，直接算一遍要调用模型 n 次，成本极高。这项研究把调用次数大幅压缩，让普通开发者也能低成本排查提示词效果，对调试和审计模型行为更实用。

本站只提供模型生成的摘要，不转载原文。完整内容请前往原始出处阅读。