5月21日，美国商务部长在人工智能首尔峰会上发布《美国人工智能安全研究所（AISI）的愿景、使命和战略目标》[1]，描述了该部门推进人工智能安全的方法。AISI隶属于美国国家标准与技术研究院（NIST），成立于2023年11月，旨在响应总统2023年10月签署的《关于安全、可靠、可信地开发和使用人工智能》的行政令。

一、AISI的愿景

在人工智能取得非凡进步的时代，越来越强的计算机系统、模型和功能模块可以执行曾经被认为需要人类智能水平才能解决的任务。AISI的研究、测试和指导将使人工智能风险评估更加严格；为人工智能模型、系统和功能模块提供更有效的内部和外部保障；增强公众信心；并最终更广泛、更负责任地开发和采用人工智能。AISI将优先考虑社区参与；发布可用的工具、基准和指南；鼓励建立新的全国和全球网络，以公认的科学成果为基础，评估和减轻人工智能风险。

二、AISI的使命

AISI的运行遵循两个关键原则：有益的人工智能取决于人工智能的安全性，而人工智能的安全性取决于科学。成熟的人工智能安全研究需要对高级人工智能模型和系统功能的更深入理解，采用安全人工智能系统和部署标准，以及对系统及其广泛影响进行评估。其使命是帮助定义和推动人工智能科学。

三、AISI的战略目标

目标1：推进人工智能安全科学。开展基于经验的人工智能模型、系统和功能模块的测试、比较和评估，为中长期的人工智能安全挑战找到切实可行的解决方案，执行和协调技术研究以改进或创建所需的安全指南和技术安全工具；对高级模型、系统和功能模块进行TEVV（测试、评估、确认和验证）部署，以评估潜在风险；对先进的人工智能模型、系统和功能模块进行TEVV，以对现有风险范围进行科学研究和记录。与美国政府机构、国际合作伙伴和各种人工智能利益相关者在NIST实验室项目中开展合作。

目标2：阐明、演示和传播人工智能的安全实践。AISI将构建并发布特定指标、评估工具、方法指南、协议和基准，以评估在不同领域和环境中的部署高级AI风险；制定和发布风险缓解指南和安全机制，以支持负责任地设计、开发、部署、使用和治理高级的AI模型、系统和功能模块。利用目标1中的科学研发项目，为人工智能的利益相关者提供有关风险评估和风险缓解的高质量科学信息及决策工具。

目标3：支持相关机构、社区围绕人工智能安全进行协调。促进采用AISI指南、评估以及建议提出的安全措施和风险缓解措施；领导包容性的人工智能安全科研国际网络；利用AISI联盟中各利益相关者的专业知识，确定并帮助围绕最佳实践达成社区共识，建立强大的人工智能安全生态系统，并确保其具有持续的影响力。   （李宏 赵梦柯）