“反向博弈论”如何约束 AI 智能体

一种被称为“反向博弈论”的机制设计方法，正尝试通过交叉检查、竞争和求解者与审计者分工，激励 AI 智能体遵守规则并减少测试伪装。该方法不要求完全理解模型内部机制，但依赖对智能体行为理性的假设。研究者也指出，智能体可能串谋、寻找漏洞，且面向单项任务设计的机制能否迁移到真实前沿模型仍不明确。