2024年10月24日，白宫发布有史以来第一份关于人工智能（AI）的国家安全备忘录（NSM）[1]，并根据该备忘录创建了AI治理与风险管理框架，以确保美国人工智能前沿领域领导地位。

一、国家安全备忘录主要内容

人工智能前沿将在不久的将来对国家安全和外交政策产生重大影响，该备忘录指示美国政府实施以下关键行动增强AI能力：

1、确保美国领导世界安全、可靠和值得信赖的AI发展

美国政府必须与工业界、民间社会和学术界合作，确保美国各地为AI发展提供动力的基础能力。具体包括：采取行动提高芯片供应链的安全性和多样性，支持下一代美国政府超级计算机和其他新兴技术开发；培养、吸引并留住具有相关技术的国际顶尖人才，这些人才将提高美国在AI和相关领域（例如半导体）的竞争力；指定人工智能安全研究所（USAISI）作为美国工业界和政府主要联系点，简化其与国家安全机构合作机制，授权AI研究资源的泛化学习；指导国家经济理事会协调对美国私营部门AI生态系统进行关于相对竞争优势的经济评估。

2、利用尖端人工智能技术推进国家安全使命

备忘录强调要有效地使用AI系统为国家安全使命服务，同时要求以符合民主价值观的方式行动。具体包括：各机构应更新程序，定期修订其雇佣和保留政策以吸引、雇佣、发展和留住人才，简化采购流程以促进与非传统供应商的合作；成立工作组以解决涉及国防部和情报机构采购AI并用于国家安全系统的问题；加强机构间在使用和处理AI方面的内部协调。

3、推进围绕人工智能的国际共识与治理

备忘录指示：提供首个用于国家安全任务的AI治理和风险管理指南；指导创建国家安全AI治理和风险管理框架，包括风险管理、评价、问责和透明度机制；制定并推广与美国政策相一致的国际共享定义、规范、期望和标准，促进AI在全球的开发和使用；要求国务院、国防部、司法部、能源部、国土安全部、管理和预算办公室、国家情报局、中央情报局、国防情报局、国家安全局和国家地质调查局的首席情报官以及合适的技术人员组成国家安全协调小组。

二、在国家安全领域推进AI治理和风险管理框架

备忘录要求特定部门负责人要发布指南，以推进国家安全系统（NSS）中的AI治理以及风险管理实践。该框架包括4个主要支柱：

1、AI使用限制

要求相关机构应避免以任何形式违反国内或国际法律义务的方式使用AI，也不得以构成可接受风险水平的方式或目的使用AI。根据AI对国家安全、国际规范、民主价值观、人权、公民权利、公民自由、隐私或安全构成的风险，以及影响联邦人员的AI用例，识别被禁止和“高影响”的AI用例。

2、最低风险管理实践

要求相关机构基于风险因素考虑，为被确定为高影响的AI类别创建足够强大的最低风险管理实践，包括部署前风险评估。

3、对AI使用情况的分类和检测

要求相关机构对“高影响AI用例”进行年度盘点并向总统国家安全事务助理（APNSA）报告，清单包含AI用例的目的及其预期好处、风险以及如何管理这些风险的描述，部门负责人应定期发布并更新清单。

4、培训和问责机制

要求相关机构为员工制定负责任地使用和开发AI的标准化培训要求和指南，并根据需要更新其政策和程序，以确保对参与AI开发、部署和使用的人员的适当问责。

2024年10月30日，美国能源部和商务部又联合发布一份谅解备忘录，以合作开展高级AI模型和系统的安全研究、测试和评估，有助于确保安全、可靠和值得信赖的AI开发和使用。                                                       （李宏 赵梦珂）