AWS ML BlogArun Chandapillai
行业动态

Tokenomics at scale: Track and cap Amazon Bedrock spend per IAM principal with CUR 2.0 and AWS Budgets

AI 摘要

AWS 发布了一套仅使用原生功能的方案,用于按 IAM 身份追踪并限制 Amazon Bedrock 的生成式 AI 支出。方案分三步:Bedrock 自动记录每次推理请求的 IAM 用户或角色身份,共享角色可通过会话标签区分个人;激活成本分配标签后,可在 Cost Explorer 查看,或通过 CUR 2.0 导出并用 Athena 查询明细;再创建限定到具体身份或标签的 AWS Budgets 预算,在阈值触发时自动附加 Deny 策略,限制对高成本模型的调用。文章同时说明,预算数据每天最多刷新三次,标签激活不追溯历史数据,共享角色上的限制会影响该角色下所有人。

简评

企业用生成式 AI 时,钱花在谁身上、能不能设上限,一直是笔糊涂账。这套方案让管理者按人或团队看到账单并自动断供,意味着 AI 预算开始像云服务器一样被精细管理。对普通用户来说,未来公司分配 AI 额度可能更常见。

  • 成本管理
  • 生成式AI
  • 预算控制
  • AWS

本站只提供模型生成的摘要,不转载原文。 完整内容请前往原始出处阅读。

阅读原文 ↗