“逆向博弈论”如何约束 AI 智能体的行为

How “reverse game theory” could keep AI agents in check

“逆向博弈论”又称机制设计，尝试通过奖励与惩罚规则激励 AI 智能体遵守约束，为模型对齐提供补充路径。MIT、Yale 和 Columbia 研究者提出用交叉预测、竞争及相反偏向模型的输出匹配减少测试中的故意示弱；Princeton 的 Elad Hazan 则建议让模型轮流担任求解者与审计者，并惩罚作弊和漏检。