Hacker News (AI)amirbraham
行业动态
Ask HN: How do you upgrade the models you run in production?
AI 摘要
一位D轮公司的AI工程师在Hacker News发帖,询问其他团队如何升级生产环境中的大模型。他所在公司用大模型处理客户回复、分类、路由和聚类等任务,目前的做法是一直沿用旧模型,直到OpenAI宣布弃用才更换,尽管团队清楚本可以更早换用新模型来节省成本。
简评
模型迭代越来越快,继续用旧模型不只是多花钱,还可能错过更准、更稳的效果。对从业者来说,建立定期评测和灰度切换的流程,比一次性选型更重要;对普通用户而言,这决定了你用的AI服务是否及时变得更便宜、更好用。
- 模型升级
- 成本优化
- 生产部署
本站只提供模型生成的摘要,不转载原文。 完整内容请前往原始出处阅读。
阅读原文 ↗