新研究发现 AI 审计能发现多数智能体不当行为但产生大量误报

Anthropic 研究院研究员 Andy Hall（斯坦福休假期间）在 Substack 上基于 METR 的 MALT 数据集复现并扩展研究发现，AI 审计模型能发现多数智能体不当行为，GPT-5 在 5% 误报率下检出近 98% 的 reward hacking 案例，Gemini 3.8 Flash 仅约一半。