「逆向博弈论」如何约束 AI 智能体

「逆向博弈论」即机制设计，研究者试图用激励规则引导 AI 智能体遵守规范。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型预测彼此答案或互相竞争，以阻止其在测试中「故意扮弱」。普林斯顿的 Elad Hazan 则设想模型轮流担任 solver 与 auditor 并按结果奖惩，但能否理性响应激励存疑。