2024年11月12日，加拿大创新、科学与经济发展部（ISED）部长宣布设立加拿大人工智能安全研究所（CAISI），旨在增强加拿大应对人工智能安全风险的能力。这是加拿大政府2024年预算中提出的24亿美元更广泛投资计划的一部分，旨在支持研究人员和企业负责任地开发和采用人工智能。

CAISI的初始预算为5年内5000万加元（约合2.54亿元人民币），设立专门办公室负责监督研究议程并与国际合作伙伴建立联系。研究所将利用加拿大国家研究理事会（NRC）、加拿大高等研究院（CIFAR），以及加拿大3个国家人工智能研究所的现有专业知识，并广泛吸纳加拿大的研究和商业界参与项目，以评估风险、测试系统并制定应对风险的指导方针。

CAISI确定了两个研究方向：

1、应用和研究者主导的研究

通过与总部位于加拿大的全球研究组织CIFAR达成的资助协议，支持加拿大及国际专家探索关键的人工智能安全问题。

2、政府主导的项目

由加拿大国家研究理事会实施，专注于解决政府的直接优先事项（如网络安全）或涉及其他国际人工智能安全机构的相关项目。

CAISI将充分利用加拿大世界领先的人工智能研究生态系统和人才基础，促进对先进人工智能系统相关风险的理解，并推动制定相应的应对措施。基于加拿大通过的《布莱切利宣言》对国际合作的承诺，CAISI作为新的人工智能安全机构国际网络的一部分，还将与其他地区的安全机构合作。                          

（王建芳 黄茹）