Hacker News (AI)dbreunig
开源
Beating benchmarks by weight-space optimizing decision models with DSPy
AI 摘要
研究团队发布 dspy-wsp 原型优化器，让前沿大模型无需梯度或训练即可直接编辑另一模型的权重。在五个 0.6B 至 9B 参数的开源决策模型上，GPT-6-Astra 以约 5 至 10 美元成本完成 25 次前向推理并修改权重，所有模型准确率均有提升：单独使用 WeightSpace 提升 1.9 至 16.1 个百分点，与 ReAnchor 结合后提升 6.5 至 20.0 个百分点。该工具基于 DSPy 3.5，可在本地 Mac 或 GPU 上运行。
简评
过去调优模型要靠大量训练数据和算力，现在一个大模型能像改代码一样直接修补另一个小模型的参数，几美元就能换来明显提升。这意味着小团队和个人开发者也能低成本定制模型，模型间的能力传递可能成为新常态。
- 权重编辑
- 模型优化
- DSPy
- 决策模型
本站只提供模型生成的摘要，不转载原文。 完整内容请前往原始出处阅读。
阅读原文 ↗