4月23日，英国领先的人工智能研究所——艾伦·图灵研究所发布新报告《人工智能与战略决策：在人工智能增强的智力判断中平衡信任与不确定性》[1]，强调利用人工智能支持国家安全决策的重要性。该报告由联合情报组织（JIO）和政府通信总部（GCHQ）联合委托，由艾伦·图灵研究所新兴技术与安全中心（CETaS）撰写。

该报告评估了如何将人工智能增强情报传达给政府的战略决策者，以确保坚持情报报告和评估的分析严谨性、透明度和可靠性原则，这些发现基于英国评估机构、情报机构和其他政府部门在之前七个月所进行的广泛初步研究。研究主要针对以下三个问题：①国家安全决策者是否有足够的能力，来判断人工智能增强情报所支撑的决策评估工作有什么样的局限性和不确定性？②何时以及如何将人工智能增强情报的局限性传达给国家安全决策者，以确保在可获取总体情报和追究技术细节之间取得平衡？③是否需要进一步的治理、指导方针或技能提升，使国家安全决策者可根据人工智能增强见解做出高风险决策？

一、报告的主要发现

1、对于全来源情报（all-source intelligence）分析师来说，人工智能是一种有价值的分析工具。人工智能系统可以处理远远超出人类分析师能力的大量数据，识别可能被忽视的趋势和异常。因此，若不将人工智能用于情报，可能会违反《情报评估专业主管共同分析标准》中规定的情报评估全面覆盖原则。此外，如果错过了关键的情报模式和情报间联系，未能采用人工智能工具可能会破坏基于全来源情报的决策评估对政府的权威性和价值。

2、人工智能的使用加剧了情报评估和决策过程中固有的不确定性。人工智能系统的输出是概率计算（不是确定性），目前在呈现不完整或偏斜的数据时容易出现不准确。许多人工智能系统的不透明性也使得很难理解人工智能得出的结论是如何得出的。

3、迫切需要对情报分析和评估中使用的人工智能系统进行仔细设计、持续监控和定期调整，以降低放大偏见和错误的风险。

4、生产评估产品的情报职能部门仍需要最终评估用于情报分析和评估的人工智能方法的相关技术指标（如准确性和错误率），所有来源的情报分析师在得出结论和判断时必须考虑任何限制和不确定性。

5、国家安全决策者需要确保人工智能系统性能和安全性，以便根据人工智能增强的情报做出决策。

6、在缺乏对人工智能系统进行强有力的保证程序的情况下，国家安全决策者通常对人工智能识别事件的能力表现出更大的信心，而不是人工智能确定因果关系的能力。当人工智能增强情报得到非人工智能、可解释的情报来源的证实时，决策者更愿意相信这些见解。

7、决策者的人工智能系统技术知识差异很大。研究参与者一再表示，对人工智能的基本原理、当前能力和相应保证流程的了解，是决策者根据人工智能丰富的智能做出重要决策的必要条件。

二、支撑战略决策者的主要行动建议

1、情报评估专业负责人（PHIA）应制定指南，以在全源评估中传达人工智能增强情报中的不确定性。该指南应概述在向决策者阐明与人工智能相关的限制和警告时应使用的标准化术语。还应就评估应向决策者传达人工智能增强情报的使用情况的门槛提供指导。

2、评估界在向战略决策者提供技术信息时应采取分层方法。提交给决策者的最终情报产品的评估应始终可向非技术受众解释，但应根据要求向具有更多技术专长的人员提供有关系统性能和限制的其他信息。

3、英国情报评估学院应代表全源评估界完成培训需求分析，以确定对新老分析师的培训要求。学院应与所有来源的评估组织合作，根据分析制定适当的培训。

4、应向国家安全决策者及其工作人员提供培训，以建立他们对人工智能增强情报的评估的信任。应向决策者提供有关人工智能基本原理和相应保证流程的基本简报。 

5、在高风险的国家安全决策会议之前，应立即提供简短的、可信的专家简报，在这些会议中，人工智能增强的情报是重要决策的基础。

6、应为用于情报分析和评估的人工智能系统制定正式的认证计划，以确保其模型满足对稳健性、安全性、透明度、固有偏见纠正程度的最低要求。将这种系统应用于特定问题的技术保障应下放给相关组织，每个组织的保障程序都应得到认可。该方案需要专门的资源，将对情报评估标准和程序的理解与技术专长结合起来。PHIA应协助制定原则和要求，而认证和测试的技术专长应来自情报界和整个政府的技术权威。

报告重申了人工智能的潜力，即通过支持分析人员更快、更准确地处理数据，实现情报分析的变革性改进，从而帮助英国维护国家安全。人工智能工具可以识别超出人类能力的模式、趋势和异常现象，并协助情报分析师理解复杂的问题。但变化的步伐正在加快。在一个竞争日益激烈和动荡的世界中，我们需要继续利用人工智能来识别威胁和新出现的风险，同时为确保人工智能的安全做出重要贡献。

（李宏 赵梦珂）