Hacker News (AI)0o777
行业动态

1 in 4 3rd Party AI Endpoints Underperform Their Advertised Models

AI 摘要

Artificial Analysis 发布端点准确度指数 1.1 版,将 100 多个无服务器托管端点与官方权重的参考部署进行对比,发现约四分之一端点的准确率低于参考水平。差距主要源于服务商对权重做量化、修改推理设置、限制输出长度或引入实现缺陷;例如两个输出上限约 3.2 万 token 的端点使约一半 HLE-250 回答被截断,原始准确率降至 22% 和 29%,而参考为 55%。同一模型在不同服务商之间的价格相差 4.4 倍,完成时间从 5.5 分钟到 51.5 分钟不等。

简评

同一个模型名字,在不同云服务上跑出的效果可能差出一大截,价格和速度却看不出来。对开发者来说,选 API 不能只看模型名和报价,还得查端点级的准确率;对普通用户而言,这意味着你用的 AI 产品背后可能悄悄变笨了。

  • 模型评测
  • API 服务
  • 推理质量
  • 开源模型

本站只提供模型生成的摘要,不转载原文。 完整内容请前往原始出处阅读。

阅读原文 ↗