Ballad: Bandit-Based LLM Routing for Automated Heuristic Discovery

AI 摘要

研究者提出 Ballad，一种基于在线赌博机算法的 LLM 路由方法，用于自动启发式发现（AHD）。研究先在多个 NP-hard 组合优化问题上发现，更大更贵的模型并不稳定带来更好启发式；Ballad 通过偏好稀有高分启发式的选择策略、沿启发式种群谱系的 DAG 信用传播以及对过期观测的折扣，动态调度多个模型。在五个 NP-hard 问题、四个不同能力与成本的模型上，Ballad 匹配事后最优单一模型，部分场景超越所有单模型，同时相比始终使用最强模型降低 API 成本最高 65.6%。