2月14日，日本政府宣布设立“人工智能安全研究机构”[1]，旨在促进日本开展可信赖的AI技术研发和应用，确保本国安全发展。

一、背景

AI技术的快速发展，不仅给全球经济和产业结构带来重大变革，也为各国实现稳定、安全的发展提出更高要求。英国、美国等国家率先成立了人工智能安全研究机构，并讨论建立国际合作框架。日本首相于2023年12月21日表达了设立“人工智能安全研究机构”（AI Safety Institute）的立场，在此背景下，日本政府于2月14日在独立行政法人信息处理推进机构（IPA）设立该机构，由原日本IBM的AI学者村上明子担任主任。

二、机构定位和主要业务

为日本AI技术研发和运用人员等提供相关法律指导和从业规范指导，促进本国开展可信赖的AI技术研发和应用。

1、与安全性评价相关的调查方法、标准

具体包括：①就AI安全的评价标准、检查工具、虚假信息应对技术、网络安全等问题开展调查；②探讨和制定AI安全的评价标准、指导纲领；③探讨与上述问题相关的AI应用环境的构建和优化问题。

2、与安全性评价相关的实施办法、国际合作等业务

具体包括：探讨AI安全性评价的应用问题；国外相关机构合作，与产业界、学术界交流意见，开展相关的调查工作等事项。 （惠仲阳）