CapLite: Prompt-Injection Defense for Small Language Model Agents without Model-Written Security Artifacts

AI 摘要

研究者测试了15个开源小语言模型（参数1.7B至12B）能否自行编写提示注入防御所需的安全策略，发现由模型生成的安全产物普遍不可靠：Progent、IPIGuard、DRIFT的策略分别在14、13、11个模型上被攻击突破，CaMeL生成的程序在最多68%的回合中无法运行。为此提出CapLite，从工具模式推导策略，在读取任何工具结果前先提交写操作，且仅当影响对象或接收方的参数均在用户请求中明确出现时才允许写入。在13,935个受攻击的AgentDojo回合中无攻击成功，受攻击下的效用为29.0%，与CaMeL的27.2%相当，每回合消耗17.1k token，为CaMeL的18%，在所有强制防御中每token效用最高。