加拿大成立人工智能安全研究所
2025-03-18 16:27 来源:
2024年11月12日,加拿大创新、科学与经济发展部(ISED)部长宣布设立加拿大人工智能安全研究所(CAISI),旨在增强加拿大应对人工智能安全风险的能力。这是加拿大政府2024年预算中提出的24亿美元更广泛投资计划的一部分,旨在支持研究人员和企业负责任地开发和采用人工智能。
CAISI的初始预算为5年内5000万加元(约合2.54亿元人民币),设立专门办公室负责监督研究议程并与国际合作伙伴建立联系。研究所将利用加拿大国家研究理事会(NRC)、加拿大高等研究院(CIFAR),以及加拿大3个国家人工智能研究所的现有专业知识,并广泛吸纳加拿大的研究和商业界参与项目,以评估风险、测试系统并制定应对风险的指导方针。
CAISI确定了两个研究方向:
1、应用和研究者主导的研究
通过与总部位于加拿大的全球研究组织CIFAR达成的资助协议,支持加拿大及国际专家探索关键的人工智能安全问题。
2、政府主导的项目
由加拿大国家研究理事会实施,专注于解决政府的直接优先事项(如网络安全)或涉及其他国际人工智能安全机构的相关项目。
CAISI将充分利用加拿大世界领先的人工智能研究生态系统和人才基础,促进对先进人工智能系统相关风险的理解,并推动制定相应的应对措施。基于加拿大通过的《布莱切利宣言》对国际合作的承诺,CAISI作为新的人工智能安全机构国际网络的一部分,还将与其他地区的安全机构合作。
(王建芳 黄茹)