8月13日，新美国安全中心（CNAS）发布《人工智能与生物国家安全风险的演变：能力、阈值和干预措施》报告[1]，旨在评估人工智能（AI）对生物灾难风险的影响。报告首先阐述了美国生物安全的历史和现有风险状况，随后考虑了AI如何跨越人工智能安全的4个维度影响生物风险。基于以上分析，该报告确定了未来发展领域并为决策者提供了可行行动的步骤。

一、美国生物安全风险现状

灾难性生物风险的来源多种多样。从历史上看，决策者低估了科学家日常活动所带来的风险，即使高风险生物安全实验室的数量和危险事件（如COVID-19疫情）的频率持续增长。传统上，国家行为者是相当大的生物安全风险的来源，尤其是苏联令人震惊的大规模生物武器计划。但是，生物武器的笨拙和不精确意味着，各国在短期内仍然不太可能发动大规模生物攻击。另一方面，非国家行为者（包括独狼、恐怖分子和世界末日组织等）在尝试生物攻击方面有着令人不安的记录，但由于构建和运用这种微妙能力的内在复杂性，成功率有限。新的基因编辑技术、基因测序方法和DNA合成工具的结合正在为合成生物学开辟一个充满可能性的新世界，以提高基因操作的精度，随之而来的是强大的生物武器开发和生物事故等风险。

二、AI影响生物安全风险的4个维度

报告将AI与灾难性风险关系的研究浓缩为4个相关的维度。

1、新兴的AI功能在两个方面为生物科学带来了巨大的影响

首先，AI工具加速合成生物学的发展，通过提供新颖、强大的手段可以操纵遗传信息以达到特定目的；其次，AI基础模型可能具有放大有限个体的生物学能力的作用。当应用于生物安全领域时，围绕新功能的最主要担忧集中在人工智能驱动的生物设计工具（BDTs）可能帮助开发更复杂生物武器，以及提高生物学能力的能力可能帮助恶意行为者更容易地制造生物武器。

2、AI工具带来的技术安全挑战可能会以多种方式加剧生物风险

在技术安全挑战方面，如何有效限制用生物学基础知识协助恶意行为者能力。这一挑战至今仍被讨论着。但还有其他值得注意的问题，包括如何开发防御未知风险的AI工具。

3、将AI工具整合到广泛的生物技术生态系统中可以带来新风险

这些风险来自自动化带来的安全挑战，也与经验不足行为者的隐性知识障碍有关。

4、AI生物技术的风险将不可避免地受到开发条件的影响

过于快速扩大对人工智能与生物结合的投资，企业效益和地缘政治竞争压力对人工智能和生物技术的发展产生重大影响。

三、未来发展领域

基于以上的4个安全维度，需要决策者持续监测：AI系统在支持高级生物实验方面的有效性；减少对云实验室和实体实验室的自动化所需要求的技能难度；让AI助力研究传染病遗传易感性的双重用途；让AI助力研究病毒病原体精密工程的双重用途。

四、政策建议

虽然人工智能和生物学交叉领域的灾难性威胁尚未出现，但随着它们逐渐成形，需要我们谨慎地进一步监测，有一些明智的措施值得实施，以减少未来生物灾难的可能性。

1、进一步加强对云实验室（Cloud Labs）和其他基因合成提供商的筛选机制。美国立法者应要求所有相关公司严格筛选其订单和客户是否存在潜在威胁，并应制定适当机制向执法机构报告可疑活动。相关机构应考虑要求记录和筛选所有合成基因序列的政策，强化加密保护商业秘密，并允许在特定情况下对合成基因序列进行查询。同时，立法者应展望并投资于开发下一代动态筛查方法。

2、参与定期和严格评估，全面审视生物学通用模型用于研制生物武器的可能性。美国国防部（DOD）和国土安全部（DHS）等相关机构应定期、系统地评估基础模型用于生物武器采购、储存和传播整个生命周期的可能性。

3、投资于技术安全机制，遏制生物学基础模型的滥用。为了降低生物学基础模型未来增强非国家行为者制造生物武器的风险，私营公司和国家科学研究机构（如国家科学基金会和国防高级研究计划局）应进一步投资研究以下技术安全机制，包括：云访问护栏、机器学习“忘记”技术，以及模型训练中识别“信息危害”的新方法。

4、更新政府生物防御物资，优先考虑其敏捷性和灵活性。美国政府越来越认识到需要超越传统“一虫一药”的生物防御方法，转向更灵活和全面的解决方案，即AI支持的生物设计工具。决策者应该投入更多资源支持研究不特定于病原体的方法，优先考虑直接对抗病原体传播能力的措施，以加强生物防御。

5、为具有可能带领灾难的生物设计工具建立许可制度。美国政府应该努力建立严格的许可制度，以便监管在国内外创建和使用此类生物设计工具。

生物灾难的破坏性无疑是巨大的，在人工智能时代，对生物灾难将防御方式也将发生巨大变化。                     （李宏 赵梦珂）