Hacker News (AI)0o777
行业动态
1 in 4 3rd Party AI Endpoints Underperform Their Advertised Models
AI 摘要
Artificial Analysis 发布端点准确度指数 1.1 版,将 100 多个无服务器托管端点与官方权重的参考部署进行对比,发现约四分之一端点的准确率低于参考水平。差距主要源于服务商对权重做量化、修改推理设置、限制输出长度或引入实现缺陷;例如两个输出上限约 3.2 万 token 的端点使约一半 HLE-250 回答被截断,原始准确率降至 22% 和 29%,而参考为 55%。同一模型在不同服务商之间的价格相差 4.4 倍,完成时间从 5.5 分钟到 51.5 分钟不等。
简评
同一个模型名字,在不同云服务上跑出的效果可能差出一大截,价格和速度却看不出来。对开发者来说,选 API 不能只看模型名和报价,还得查端点级的准确率;对普通用户而言,这意味着你用的 AI 产品背后可能悄悄变笨了。
- 模型评测
- API 服务
- 推理质量
- 开源模型
本站只提供模型生成的摘要,不转载原文。 完整内容请前往原始出处阅读。
阅读原文 ↗