兰德公司分析美中AGI竞赛路径 提出共享风险以促成合作
6月1日,兰德公司(RAND)发布《通用人工智能发展路径上的均衡策略》报告[1],运用博弈论框架系统分析美中两国在通用人工智能(AGI)研发竞赛中的战略互动与博弈结果。报告借鉴冷战时期核竞争博弈论模型,将AGI竞赛建模为系列战略互动,揭示了竞争动态如何驱动双方走向摩擦与不稳定,以及在何种条件下可能形成合作。
报告首先构建单次囚徒困境博弈,发现尽管双方合作能带来更高的总体收益与经济增长,但“相互破坏”仍是己方的最优选择。当引入AGI突破带来的“奇袭武器”效应,即率先获取决定性网络攻击或地缘政治优势工具的能力时,先发优势会进一步强化先发制人与追求垄断的动机,加剧战略不稳定。在重复博弈中,双方均试图通过前期累积优势提高成为“赢家”的概率,导致破坏策略成为各阶段的占优选择。若赋予落后方“先发制人打击”选项,虽可能改变终局选择,但无助于解决前期阶段的竞争性倾向。
为打破这一竞争陷阱,报告创新性地引入了“已存在风险累积”变量:若双方在前序阶段持续选择破坏或自力更生策略,将积累系统性风险,包括模型失控、滥用或扩散,一旦爆发将同时对两国造成灾难性损失。在此框架下,当灾难性后果足够严重时,可能形成合作倾向,类似于冷战时代对核对抗行为的约束。
报告作者、前DARPA官员鲁特指出,博弈论模型的价值在于诊断条件而非预言。若无审慎的信任建立措施与验证机制,AGI主要参与方将被推动着走向竞争。AGI政策必须为能力突然跃升而引发的危机场景做好准备,包括明确使用规范、红线与快速沟通渠道。
(李永干)
[1] Equilibrium Strategies on the Path to Artificial General Intelligence. https://www.rand.org/pubs/perspectives/PEA4788-1.html