AI Agent 为何违反规则，深入拆解失败模式与工程护栏

作者复盘一年生产环境 Agent 违规日志，结论是 AI Agent 违反规则主要源于架构缺口而非目标不对齐。文章把违规分为硬约束、工具契约、时间、资源、软约束五类，归因于上下文注意力稀释、工具签名幻觉、指标优化压力和无界重试等根因，并给出默认拒绝的 schema 校验、规则锚定、结构化输出、策略引擎与运行时熔断的四层防御代码示例，建议通过对抗性评估套件度量规则遵守率后再逐步开放写权限。