2023年11月1日，美国拜登政府指示商务部在国家标准与技术研究院（NIST）内成立美国人工智能安全研究所（USAISI）[1]，领导政府在人工智能安全和信任方面的工作，特别是在评估先进人工智能模型方面，以支持拜登总统签署的“安全、可靠、可信地开发和使用人工智能”的行政令。

USAISI将促进人工智能模型的安全、安保及测试标准的制定，制定人工智能生产内容的验证标准，并为研究人员提供测试环境，评估新的人工智能风险，解决已知的影响。USAISI将加强与学术界、工业界、政府和社会伙伴的合作，以推动人工智能的安全。此外，USAISI还将与国际同行进行信息共享和研究合作，包括与英国（计划建设中的）人工智能安全研究所（UKAISI），以及来自民间社会、学术界和工业界的外部专家合作，致力于管理人工智能系统的风险，并为人工智能安全和信任建立指导方针、工具和测试环境。

通过建立USAISI，美国商务部将加快与其他联邦政府机构的协调工作，推进人工智能风险管理工作，以充分安全有效地使用人工智能，确保美国成为创新、安全和负责任的人工智能全球领导者。   （黄茹）