MobileProbe: Adaptive Security Evaluation of Mobile Agents via Trajectory-Aware Injection

AI 摘要

研究者提出 MobileProbe，一个针对移动 GUI 智能体的轨迹感知红队测试框架。这类智能体读取手机屏幕并代用户操作应用，攻击者可在普通界面内容中嵌入恶意指令，诱导其执行错误操作，即环境注入攻击。现有基准把人工构造的攻击载荷固定在固定任务的固定步骤，载荷难以迁移，且智能体若未走到注入页面就被判为安全，导致风险被低估。MobileProbe 通过自动化渗透测试发现可被攻击者控制的内容界面，沿智能体轨迹定位脆弱决策点，并用代理模型筛选的进化循环迭代生成上下文相关载荷。团队构建了覆盖 12 个应用、83 个长程攻击实例的基准，按机密性、完整性、可用性标注攻击目标；在三种代表性智能体架构上，其攻击成功率高于人工编写、零样本大模型及此前自动化红队基线。该工作已被 NDSS 2027 接收。