Hacker News (AI)Rinkesh2010rpp
开源
Show HN: Taster – Plain-English rules your agent can't forget or ignore
AI 摘要
开发者 Rinkesh2010rpp 在 Hacker News 发布开源 Python 库 Taster,它在 AI 代理调用工具前用自然语言规则检查每个动作,并在代理读取工具返回内容前筛查提示注入。项目内置“宪法”规则与注入检测两类检查,支持 LangChain 中间件和 Claude Code 钩子,默认以影子模式运行。作者用 18 个自写用例测试全部符合预期,并在一个自主代理上运行 26 天、检查 1092 条工具结果,捕获两个植入攻击页面且无误报。
简评
AI 代理会自行找路径完成任务,可能误删数据或被网页里的隐藏指令诱导泄密。Taster 把安全规则放到代理外部强制执行,相当于给自动化操作加了一道独立关卡。对开发者来说,这提供了一种低成本的风险控制手段;对普通用户而言,未来使用代理处理邮件、代码时,误操作和被骗的概率有望降低。
- AI代理
- 安全防护
- 提示注入
- 开源工具
本站只提供模型生成的摘要,不转载原文。 完整内容请前往原始出处阅读。
阅读原文 ↗