3月13日，新美国安全中心（CNAS）发布一份新报告《面向未来的前沿AI监管：预测前沿AI模型的未来计算》[1]。报告预计，按照目前的趋势发展下去，前沿人工智能模型的有效计算能力将比目前最先进的模型高出100万倍。报告强调，政策制定者必须为人工智能系统比现在强大得多的未来做好准备，并相应地制定政府法规。

报告指出，前沿AI模型的有效计算能力将取得巨大进步，成本增长限制了大型公司的AI模型训练并导致只有少数机构能够承担训练人工智能的费用；硬件升级和算法改进可以降低训练成本，使得更多的机构能够访问先进的AI模型；报告讨论了出口管制对人工智能计算能力的影响，强调政策制定者应迅速制定监管框架，以预防竞争者发展人工智能所产生的危害。

1、未来十年训练前沿人工智能模型的计算量会显著增加

到21世纪20年代末或30年代初，用于训练前沿AI模型的计算量可能是用于训练GPT-4的大约1000倍。考虑到算法的进步，前沿人工智能系统的训练效率可能是 GPT-4的100万倍。何时可以达到这些阈值存在不确定性，但在预期成本和硬件限制范围内，这种增长水平是可能的。这种飞跃在没有政府干预（完全由大型科技私营公司资助），也没有芯片制造或设计方面的根本性突破下是可能的。超出当今私营公司限制的支出增加或者从根本上说是新的计算范式可能会导致更大的计算增长。

2、算法进步和硬件升级将减缓AI模型的训练成本增长

训练大语言模型的成本达到数百万美元，前沿AI模型的成本上升可能会推动前沿研究的寡头垄断，只有少数拥有大量资金的机构才能承担如此高昂的费用。目前，算法的进步和硬件的改进迅速降低了训练以前最先进模型的成本。按照目前的趋势，五年内，在任何给定的能力水平下训练模型的成本将降低1000倍，即原始成本的0.1%左右，这使得训练成本大大降低并提高可访问性。

3、出口限制对人工智能计算能力的影响

美国政府已对运往中国的先进AI芯片实施了出口管制，随着时间推移，限制行为会造成相对能力差距越来越大。被拒绝获得硬件改进的参与者将很快被定价，无法跟上前沿研究的步伐。到2027年，如果出口管制保持在当前的技术门槛并发挥最大效力，那么使用旧的、符合出口标准的芯片可能会导致大约十倍的培训成本损失。然而，任何给定水平的人工智能能力的扩散只会推迟几年。目前，仅由于算法的进步，在任何给定的AI能力水平下训练模型的成本都在迅速下降。如果算法改进继续广泛使用，受硬件限制的参与者将能够训练出与曾经前沿模型相当能力的模型，仅落后于前沿两到三年。

4、对计算的访问和算法的改进在推动人工智能前沿的进步和影响力扩散的速度和对象方面都发挥着重要作用

目前，由于硬件改进和计算支出增加，用于训练大型AI模型的计算量每七个月翻一番。对于大型语言模型来说，算法效率（即以更少的计算量实现相同性能水平的能力）大约每八到九个月翻一番。性能的提高来自计算和算法改进的增加。如果计算增长在2030年代由成本上升或硬件性能提升减少而放缓，那么前沿模型的未来进展在很大程度上取决于算法的改进。算法效率的快速提高使功能能够快速扩散，因为任何给定性能水平下训练模型所需的计算量都会迅速下降。最近，一些领先的人工智能实验室开始隐瞒有关其最先进模型的信息，如果算法改进速度放缓或变得不那么广泛，这可能减缓人工智能前沿的进展，并导致能力扩散得更慢。

5、政策制定者应从现在开始制定前沿人工智能模型监管框架

虽然人工智能的未来发展存在着很大的不确定性，但目前的趋势表明，未来的人工智能系统将比当今最先进的技术强大得多。人工智能前沿最先进的系统最初将仅限于少数参与者，但可能会迅速扩散。政策制定者应该从现在开始制定一个监管框架，为未来做好准备。建立一个可预测的监管框架至关重要，因为人工智能的进展与政策制定过程之间的速度脱节，难以预测新人工智能系统对特定任务的能力，以及人工智能在缺乏监管的情况下扩散的速度。等到具体的危害出现后再对前沿人工智能进行监管，会导致监管为时已晚。

如果目前趋势继续下去，用于训练模型的计算量可能是一个有效的监管途径。大量的计算是训练前沿AI模型的入门成本。在未来10~15年内，计算作为训练最有能力的AI系统的重要投入可能会变得越来越重要。然而，鉴于算法的进步将随着时间推移，在更少的计算量上训练具有同等性能的人工智能模型系统，对计算访问的限制可能会减缓但不会阻止能力的扩散。如果计算法规与模型本身的法规相结合，例如对某些训练模型的出口管制，则将更加有效。                                                                      （李宏 赵梦珂）