The Hard Part of AI Coding Is the Second Change

AI 摘要

作者 Brian Woods 以 AI 代理开发支付服务为例：代理加入重试功能后测试通过，但超时重试可能导致重复扣款，功能可用而系统变差。他提出在接受变更前需回答四个问题——规格（什么必须保持为真）、验证（哪些检查支持这一主张）、来源（证据是否对应实际发布的代码）、授权（谁可以批准），并主张由独立工作流生成证据、人类制定验收策略，代理不得修改约束自身的规则。他还用合成实验测试 Uncle 验证器，发现测试与审计均失败的构建记录仍返回 VERIFIED，说明记录真实不等于可以发布。