新美国安全中心分析通用人工智能如何塑造中美竞争
8月27日,美国智库新美国安全中心发布《通用人工智能(AGI)如何塑造中美竞争》报告,分析了AGI如何影响美中地缘政治竞争[1]。
一、AGI发展现状与中美发展差异
AGI一般指可在广泛任务上达到人类水平的人工智能系统。业界对AGI何时到来分歧巨大,时间预判从1~3年后到2040年代不等。本报告认为,AGI更可能是逐步迭代演进,而非某一时间点突然诞生,人类或许只能事后确认AGI已经出现,且不能排除AGI始终无法落地的可能性。报告以AGI可以实现约60%~70%技术乐观派所设想的能力为分析前提,类比固定电话升级为智能手机的技术跃迁。
中美对AGI的发展思路存在差异。美国没有政府主导的AGI专项计划,但OpenAI、Meta等私营企业将AGI、超级智能作为核心目标,政府主要通过基础设施项目为企业研发创造条件。中国并未将AGI设立为正式国家级硬性目标。报告提供4个观察视角理解中国相关动向:①现阶段优先推动现有AI产业落地普及,将AGI视作远期选项,算力受限、成本风险是主要顾虑;②部分企业和地方机构开展AGI研究,但尚未上升为全国任务,部分企业对外提出AGI目标也包含着商业宣传因素;③尝试差异化技术路线,除大语言模型外,重点布局具身智能、人形机器人,依托空间智能、世界模型探索通往AGI的新路径;④不能完全排除存在秘密专项的可能性,但目前缺少实证。总体来看,AGI在中国政策序列中的优先级不断抬升,但还未像硅谷那样成为整个AI行业的核心方向。
二、AGI塑造地缘权力的五大机制
报告指出,即便率先研发出AGI,也不会自动转化为地缘优势,必须完成技术能力向财富、影响力的转化,转化过程存在不确定性:
1、拉动经济增长与生产能力。AGI可以完成复杂自动化工作、加速科研创新,理论上推动经济快速增长,间接提升国防实力和综合国力,但会受到能源、物资等现实资源条件制约,无法无限制增长。
2、重塑全球信息环境影响力。AGI能够生成高度定制化内容,实现叙事引导。聊天机器人等AI应用正在替代传统搜索引擎、社交平台,掌握AI模型即掌握信息筛选与议程设置能力。中国可依托既有对外传播体系发挥该能力;美国科技企业具备全球影响力,但政府受国内制度约束,无法直接管控内容输出。同时纸质介质、离线存储等渠道依旧存在,AGI只能压制异见叙事,不能完全实现信息封锁。
3、生成新型军事能力。AGI不会产生全能“超级武器”,只会改变部分作战领域。潜在方向包括高级网络攻击、生物制剂设计、改变核威慑的作战环境、打通各类作战单元实现联动、赋能无人装备。但算力设施可被常规武器打击,新技术同时伴随新漏洞,核武器依旧保有核心威慑价值。
4、大规模AI对齐失效与系统失控。AGI的行为可能偏离人类预期,甚至脱离管控,带来人员伤害与财产损失。理论上,中美在防范AGI重大事故上存在共同利益。但双方对AGI安全应当遵循何种价值标准认识不同,也都有借AI事故谋取地缘博弈优势的动机,这制约了两国的安全合作。
5、衍生国内及国际政治连锁影响。AGI带来的社会冲击,有可能削弱拥有AGI一方的综合实力。国内层面会出现岗位替代、社会矛盾加剧风险;国际层面会扩大国家间AI发展鸿沟,部分中小国家强调“AI主权”,对大国输出AI技术保持警惕,损害大国国际声望。
三、AGI发展的四个地缘阶段
报告强调,AGI若渐进演化,各阶段边界会模糊,难以精准识别。
阶段一:当前阶段双方同步开展AGI研发。中美均在推进相关研究,但仍在评估技术时间表与战略代价,主要风险来自对手的技术突袭;各国需要权衡资源投向,选择优先冲刺AGI或是普及现有AI应用,同时面临窃取、蒸馏对手模型的博弈。
阶段二:其中一方接近AGI临界点时,后发一方很难准确研判对手真实进展。可选应对路径包括加快自研、采取快速跟随策略、网络手段破坏对手项目;风险最高的选项是对算力设施实施物理打击,极易升级为大规模冲突。对比核军备监控,大量的AI算力设备可军民两用,缺少明确监测指标,误判风险很高。
阶段三:一方掌握AGI、另一方尚未掌握时,领先国家需要抉择是否对外公开成果,是否采取手段阻止对手追赶。落后国家会加快自研,并考虑通过情报手段获取AGI技术。例如冷战时期美国曾考虑破坏中苏核项目,最终因畏惧战争升级放弃直接打击。
阶段四:双方均拥有AGI时,竞争重心转向哪套制度更善于将AGI转化为国家实力。需要借鉴核领域经验搭建战略稳定机制,包括管控军备竞赛、管控危机升级。AGI故障、意外事件会常态化,亟需危机处置渠道,但激烈竞争会阻碍相关机制落地。
四、影响与建议
主要风险包括:①出现预防性干预行为,一方为阻止对手突破AGI关键门槛实施打击;②先发国家形成难以追赶的技术壁垒,引发大国权力转移;③竞赛压力下忽视安全管控,AI武器化持续升级;④AGI故障、新作战能力突破现有规则,诱发意外冲突。对抗与有限协调会长期并存,美国不能单纯选择其一,需要平衡二者。
对美国的政策建议:①兼顾短期应用与长期AGI研发,避免资源过度集中于AGI,技术落地的应用同样决定大国的实力;②落实出口管制,防范美国技术助力中国AI发展,增加模型蒸馏窃取行为的成本;③搭建外交渠道,分别对接盟友与中方,将AGI风险纳入中美AI对话议程;④情报机构组建专项力量,持续监测算力、算法、模型性能等关键指标;⑤开展情景推演,评估不同条件下干预对手AGI研发的手段与局限;⑥制定预案,一旦中国率先取得AGI突破,准备通过逆向工程等手段缩小差距;⑦推动提供美国的AI替代方案,尊重他国主权选择;⑧建立国内社会缓冲机制,对冲AGI带来的就业冲击。
(周鼎)
[1] How U.S.-China Competition Could Be Shaped by the Emergence of Artificial General Intelligence. https://www.cnas.org/publications/reports/superpowers-and-agi