跳到正文
Redwood Research · Blog· Jeffrey Olmo·· 15 天前AI 评分54

Redwood Research 发布模拟控制评测(SCEs)论文,检验监控能否发现模型故意实施的攻击

Simulated Control Evaluations

AI 导读

Redwood Research 发布论文提出模拟控制评测(SCEs),以 gpt-6-astra 作模拟器伪造工具响应、gpt-5.6-sol 作攻击策略和成功裁判,在不实际执行工具调用的情况下检验部署监控能否发现故意作恶的模型。

来源:Redwood Research · Blog · blog.redwoodresearch.org