Adaptive Routing: Learning which model to trust

AI 摘要

研究团队构建了名为 Sovereign 的模型路由器，它位于应用与模型提供商之间，为每个请求选择由哪个模型处理，并通过给已完成的工作打分来学习各模型在不同任务上的表现，无需人工标注或预先告知模型能力。在八个公开基准（涵盖编程、逻辑、推理、知识及制造、半导体、金融长流程）上，Sovereign 与始终使用 Claude Opus 5.5 或始终使用 Claude Haiku 5.5 两种方案对比：在编程和逻辑任务上达到或超过 Opus 的准确率，成本仅为 Opus 的 30% 至 51%；在长流程任务上成本降低约三分之二，准确率明显高于小模型；在 USACO 上准确率随使用从 88% 升至 97.7%。