OpenAI · 失准报告与通报· Axel Højmark, Jérémy Scheurer, Jenny Nitishinskaya, Felix Hofstätter, Jason Wolfe, Theodore Ehrenborg, Bronson Schoen, Alexander Meinke·· 2026-07-21精选AI 评分74
OpenAI 与 Apollo Research 提出 Contrastive SDF 方法测量模型奖励寻求倾向
Measuring Reward-Seeking by Instilling Contrastive Beliefs
AI 导读
OpenAI 与 Apollo Research 提出 Contrastive SDF 方法，用两份被灌输相反评分者信念的微调副本，量化模型行为对评分者偏好的因果敏感度。
推荐理由
原文给出把奖励寻求量化为行为对评分者信念敏感度的测量方法，并显示该倾向随强化学习训练增强。
来源：OpenAI · 失准报告与通报 · alignment.openai.com