2024年11月14日，美国国土安全部（DHS）发布关于在关键基础设施中负责任地使用人工智能（AI）的新指南——《关键基础设施中AI的角色和职责框架》[1]。该框架由AI供应链各层实体共同开发，旨在为云和计算基础设施服务提供商、AI开发人员、关键基础设施所有者和运营商、公民团体以及公共部门提供指导，确保AI在美国关键基础设施中的安全和可靠部署，同时保护公民权利和自由，推进AI安全研究。

1、云和计算基础设施服务提供商。云和计算基础设施服务提供商在保护关键基础设施中的AI开发环境方面发挥着重要作用，涉及审查硬件和软件供应商、建立强大的访问管理、保护为AI系统提供支持的数据中心的物理安全等。该框架鼓励云和计算基础设施服务提供商通过监控异常活动并建立明确的途径来报告可疑和有害活动，从而为AI开发下游的客户和流程提供支持。

2、AI开发人员。AI开发人员通常通过软件工具或特定应用程序使关键基础设施能够访问AI模型。该框架建议AI开发人员采用安全设计方法，评估AI模型的危险能力，并确保模型秉持以人为本的价值观。该框架同时鼓励AI开发人员采取强有力的隐私保护措施，通过评估以检测潜在的偏见、故障模式和安全漏洞；同时，框架还支持对那些对关键基础设施系统及其用户构成高风险的模型进行独立评估。

3、关键基础设施所有者和运营商。建议关键基础设施所有者和运营商应采购和部署安全的AI系统。具体包括推进网络安全实践以应对AI相关风险，在微调AI产品时保护客户数据，以及在使用AI向公众提供商品、服务或福利方面时提供有意义的透明度。该框架还鼓励关键基础设施实体积极监测相关AI系统的性能，并与AI开发人员和研究人员分享结果，帮助他们更好地理解模型行为与现实世界结果之间的关系。

4、公民团体。建议大学、研究机构和消费者权益倡导者等公民团体与公共部门一起制定标准，研究关键基础设施用例的AI评估。

5、公共部门。鼓励联邦政府与国际伙伴继续开展合作，以保护全球公民的利益，并鼓励各级政府之间进行协作，共同资助和支持AI安全与保障的基础研究。                               

（唐蘅 黄茹）