Redwood Research · Blog· Buck Shlegeris·· 17 天前精选AI 评分70
Redwood Research 与 METR 公开对 OpenAI 内部智能体监控系统的红队测试结果
Red-Teaming OpenAI's Internal Agent Monitoring Systems
AI 导读
Redwood Research 与 METR 的员工于 7 月 21 日至 8 月 11 日对 OpenAI 内部未对齐监控系统开展了三周高权限红队测试，产出 61 页内部报告并发布公开版。
推荐理由
这份报告把外部深度红队测试发现的监控缺口和一组监控设计原则一并公开，搭建智能体安全监控时可作参考。
来源：Redwood Research · Blog · blog.redwoodresearch.org