量子位梦晨
开源
openJiuwen X-Router自演进模型路由技术首发,昇腾亲和,Agent越跑越省,实测减少50+%Token消耗
AI 摘要
openJiuwen团队发布开源智能路由技术X-Router,在Agent与模型之间增加面向请求的决策层,基于任务复杂度动态选择模型。该路由体系分为模型能力画像、动态决策与反馈自演进三层,算法与状态解耦,支持端侧、云侧及端云混合部署。实测显示,在PinchBench上开启Bandit自演进后模型调用成本较全云基线降低约44.6%,得分仅低0.66个百分点;在Terminal-Bench/LLMRouterBench上成本降低51.4%,成功率达Opus的95.2%。相关代码已在AtomGit和GitHub开源。
- 智能路由
- Agent
- 昇腾
- 开源
本站只提供模型生成的摘要,不转载原文。 完整内容请前往原始出处阅读。
阅读原文 ↗