2月8日，美国商务部宣布成立“人工智能安全研究所联盟”（AISIC）^[1]。该联盟隶属于美国国家标准与技术研究院（NIST）的人工智能安全研究所（USAISI），充当人工智能开发人员和联盟机构之间的联络人角色，并为拜登总统于2023年10月签署的《安全、稳定、可信的人工智能》行政令中概述的优先行动做出贡献，包括制定红队、能力评估、风险管理、安全和安保以及为合成内容添加水印的指南。

一、联盟的成员

该联盟包括200多家处于创建和使用最先进的人工智能系统和硬件前沿的成员公司和非营利组织、大学和研究学术团队，如亚马逊、Adobe、谷歌、微软、Meta、Salesforce和Visa等大公司，以及著名的人工智能学术中心和领先的人工智能开发商。

二、联盟的职能

NIST长期以来一直与私营和公共部门合作，拥有可靠、实用的测量和标准解决方案，未来将在此基础上通过AISIC与研究者合作支持这项重要的工作。具体来说，联盟将履行以下职能：①知识和数据共享：为人工智能利益相关者建立知识和数据共享空间，促进信息交流。②跨学科研究与开发：通过执行研究计划，促进协作和跨学科的研究和开发。③了解人工智能所产生的影响：优先考虑研究和评估要求与方法，以便全面、有效地了解人工智能对美国社会经济的影响。④促进技术开发和数据合作：通过各种办法推动成员之间的合作开发和技术及数据转让。⑤整合联邦机构的AI投入：确定适当的机制来整合联邦机构职权范围内全部的AI安全投入。⑥AI系统评估：支持对AI测试系统和原型的评估与评价，为未来AI测量工作提供信息。

三、联盟成员的工作领域

联盟成员将支持以下领域：制定新的指南、工具、方法、协议和最佳实践，以促进行业标准的发展；为识别和评估AI能力制定指南和基准，重点关注可能造成伤害的能力；制定指南，将安全开发实践纳入生成式人工智能，包括对两用基础模型的特殊考虑；开发并确保测试环境的可用性；为成功的红队和隐私保护机器学习制定指南、方法、技能和实践；开发数字内容认证指南和工具；制定AI工作人员技能指南和标准；探索社会与技术交叉的复杂性；为理解和管理生命周期中AI参与者之间的相互依存关系制定指南。

该联盟代表了迄今建立的最大测试和评估团队集合，并将专注于为人工智能安全领域的新测量科学奠定基础。                                            （李宏 赵梦珂）