美国商务部成立人工智能国家安全风险测试工作组

作者: 2025-03-18 16:29 来源:
放大 缩小

2024年11月20日,美国商务部国家标准与技术研究院(NIST)下属的美国人工智能安全研究所宣布成立新的政府工作组——“国家安全人工智能风险测试工作组”(TRAINS),汇集了来自美国政府各部门的合作伙伴,以识别、测量和管理快速发展的人工智能技术对国家安全和公共安全的新影响。

该工作组将在关键的国家安全和公共安全领域,如辐射和核安全、化学和生物安全、网络安全、关键基础设施、常规军事能力等,对先进的人工智能模型进行协调研究与测试。TRAINS工作组由美国人工智能安全研究所主持,初步成员包括下列联邦机构代表:国防部,包括首席数字和人工智能办公室(CDAO)和国家安全局;能源部及其10个国家实验室;国土安全部,包括网络安全和基础设施安全局(CISA);美国卫生部国立卫生研究院(NIH)。

每个成员都将向工作组提供其独特的主题专业知识、技术基础设施和资源,合作开发新的人工智能评估方法和基准,并进行联合国家安全风险评估和红队演习。随着工作的持续展开,TRAINS工作组将扩大其联邦政府成员。                                                                   (李宏 赵梦珂 黄茹)


附件: