欧盟成立人工智能办公室加强欧盟层面的技术治理
2月,欧盟委员会宣布成立欧洲人工智能办公室[1],为单一的欧洲人工智能治理体系奠定基础。办公室设立在欧盟委员会内,作为人工智能专业知识的中心,将支持开发和利用值得信赖的人工智能,同时防范人工智能带来的风险。
经过长时间的谈判,欧盟于2023年12月就《人工智能法案》达成协议,这是全球首个关于人工智能的全面法律框架,保障人民的健康、安全和基本权利,并为欧盟27个成员国的企业提供法律确定性。人工智能办公室将拥有独特的条件来支持欧盟的人工智能方法,支持成员国治理机构的任务,从而在实施《人工智能法案》方面发挥关键作用。得到《人工智能法案》赋予欧盟委员会权力的支持,包括对通用人工智能模型进行评估,向模型提供商索取信息和措施以及实施制裁的能力等,人工智能办公室将执行通用人工智能模型的规则。人工智能办公室还将推动值得信赖的人工智能创新生态系统,确保欧洲在国际层面采取战略性、连贯性和有效的人工智能方法。
为支持决策,人工智能办公室将通过专门论坛和专家组与成员国和更广泛专家群体合作,汇集来自科学界、产业界、智库、民间社会和开源生态系统的知识,确保考虑到各方面的观点和专业知识。基于对人工智能生态系统的全面洞察,包括能力进步、部署和其他趋势,人工智能办公室将促进对潜在利益和风险的全面理解,具体职责包括:
1、支持《人工智能法案》并执行通用人工智能规则。人工智能办公室利用其专业知识支持《人工智能法案》的实施:推动《人工智能法案》在成员国间的协调应用,包括在欧盟层面设立咨询机构,提供支持和信息交流渠道;开发用于评估通用人工智能模型的能力和覆盖范围的工具、方法和基准,并对具有系统性风险的模型进行分类;与领先的人工智能开发者、科学界和其他专家合作,制定最先进的实践守则;调查可能的违规行为,并要求提供商采取纠正措施;准备指南和指导方针、实施和委托开展行动,以及通过其他工具支持《人工智能法案》的有效实施并监督合规情况。
2、加强可信赖的人工智能的开发和利用。欧盟委员会致力于促进内部市场上可信赖的人工智能的利用。人工智能办公室将与相关公共和私人行动者以及创业社区合作,支持以下行动:通过政策和行动,推动在欧盟范围内收获人工智能的社会和经济利益;提供最佳实践建议,并使人们能够方便地访问人工智能沙盒、真实世界测试以及其他支持人工智能利用的欧洲支持措施;促进可信赖的人工智能创新生态系统发展,以增强欧盟的竞争力和经济增长;协助欧盟委员会利用变革性人工智能工具,并提升人工智能素养。
3、支持国际合作。人工智能办公室拟通过以下方式为欧盟采取战略性、连贯性和有效的策略做出贡献:推广欧盟值得信赖的人工智能发展经验和做法,包括与世界各地类似机构的合作;促进人工智能的国际合作和治理,促进全球人工智能发展;支持制定和实施人工智能国际协议;为有效执行基于证据和预见的任务,持续监控人工智能生态系统、技术和市场发展,关注出现的系统性风险和其他趋势。
4、开展与各类机构、专家和利益攸关方的合作。在机构层面,人工智能办公室与由成员国代表组成的“欧洲人工智能委员会”和欧盟委员会的欧洲算法透明度中心(ECAT)密切合作。独立专家组成的“科学小组”将确保与科学界的密切联系。咨询论坛将汇集更多的专业技术知识,包括工业界、初创企业和中小企业、学术界、智库和民间社会。人工智能办公室还将创建供人工智能模型和系统的提供者及开源社区创建合作论坛,分享最佳实践,并贡献于行为准则和实践守则的制定。 (王建芳)