1月17日，澳大利亚产业科学资源部公布了其对人工智能（AI）咨询结果的中期回应报告[1]。这次咨询在2023年下半年举行，揭示了澳大利亚AI生态系统正快速增长、呈现专业化和多样化的特点，同时为官产研和投资人提供了关于澳大利亚AI生态系统的最新分析，总结了各界人士对安全负责任AI的认识。而回应报告指出，澳政府将在制定有关政策和2023~2024财年预算中认真考虑这些观点。回应报告还总结了政府当前和长期如何设计、开发、部署安全负责任AI的治理机制，包括规章、标准、工具、框架、原则、商业实践等。

一、主要反馈内容

咨询报告指出，各种AI系统及其应用正助力改善福利和生活质量，促进经济增长。但目前的相关规章框架没有完全应对AI带来的各种风险，尤其是更新使用非常强大的AI模型带来的特殊风险。这些更前沿的模型超越了以前模型的能力，能快速容易地产生新内容，并可改变其针对性。因此，几家公司开发的这类模型常能嵌入广泛的使用环境。正在开发和采用的AI服务从速度和规模上恐会超越已有立法框架的容量，这种速度和规模也驱动这些AI系统拥有更大规模的测试和应用。公众很关心各种AI系统没被适当测试，没公开其如何发挥作用的细节，这正在减少公众和商界对这些系统可靠性的信任。

初步分析发现，要适应AI的各种应用，至少要修订10个立法框架。公认的AI风险包括：模型输入输出的不准确、模型训练数据有偏差或质量差、模型计时不对应、输出结果随时间推移存在偏差、输出带有一定歧视性或偏见、AI系统的使用方式和时间缺乏透明度。

很多意见呼吁：对合法但使用中有高风险的AI、风险不可预见的各种强大前沿的AI模型，要进一步设规，如护理行业或金融行业的现有法律要升级，应该对AI引入新法律；强调任何规章应与国际方法互相对应，并按需采纳。还需要用非规章性的方法，在教育和商业等领域建设公共信任。

二、澳政府对此的长期规划

澳政府一直想在各种环境内安全可靠地设计、开发和部署AI，已开展了一些工作，如制定“2021在线安全法案”与隐私法等。政府将部署四大工作：

1、与产业界和社区紧密磋商。对那些在合法与高风险环境中开发和部署的AI系统，使用各种测试、透明和问责等强制性保障措施，这将有助于确保这些AI系统都是安全的，很难发生伤害。

2、阐明和加强相关法律以保护公民。澳政府已实施隐私法的改革；独立评价“2021在线安全法案”；制定新法律，以赋予澳通信与媒体局打击在线错误信息、虚假信息的权力；与各州、领地政府和产研界共同制定澳自动驾驶车辆的规章框架；与司法部和澳知识产权部门开展AI版权实施的研究和咨询工作；强化澳竞争和消费者法律，应对数字平台引发的各种问题；在教育中实施学校内普适的AI框架，教导负责任、合乎伦理地使用普适AI工具，让学生、学校和社会收益的同时，保护隐私、安保和安全。

3、对开发、部署和使用更前沿或普适的AI模型设定特殊规定。政府将继续开展国际合作工作，支持AI的安全开发和部署机制，在AI产品的生命周期内测试这些系统，明确指出国外开发的模型能纳入在澳的应用。

4、最大化发挥AI优势。在2023~2024财年预算中，将对AI项目资助7570万澳元（约合3.59亿元人民币），其中3450万澳元将继续资助下一代AI和新兴技术研究生项目，政府与产业界合作开发AI安全标准，实施基于风险的产业规章，对AI生成物质的自愿贴标和加水印开发各种配置；建立一个专家咨询机构，以支持未来关于AI的规章、条款的制定。                                                                        （刘栋）