Hacker News (AI)glth
行业动态
Transitive Policies for Agents: Agent Permissions Don't Automatically Compose
AI 摘要
文章以三个AI代理（Writer、Reader、Sender）协作处理客服工单为例，说明攻击者可通过外部消息诱导代理链，在没有任何单个代理越权的情况下，把私有客户数据通过邮件泄露出去。作者指出，工具权限无法约束跨代理传递的信息流，提出「传递性策略」概念，要求由模型之外的运行时统一执行三项规则：授权、信息流限制和操作历史，并主张在信任边界上要求内容可读。
简评
多个AI代理分工协作时，每个都合规，合起来却可能泄露数据，这是企业部署代理系统时容易忽视的漏洞。它提醒行业：光给每个代理设权限不够，还要在系统层面追踪数据流向和原始授权人，否则自动化越普及，风险越大。
- AI代理
- 权限安全
- 信息流
- 运行时
本站只提供模型生成的摘要，不转载原文。 完整内容请前往原始出处阅读。
阅读原文 ↗