7月，美国智库战略与国际问题研究中心（CSIS）发布《直面风险：分析人脸识别技术开发中的人权风险》与《直面风险：分析人脸识别技术应用中的人权风险》两份研究报告^[1]。在介绍人脸识别技术及其开发步骤、供应链结构与应用类型的基础上，详细分析了人脸识别技术开发和技术应用可能造成的人权风险，最后针对技术开发商、运营商和决策者分别提出了降低相关人权风险的建议。 

一、人脸识别技术及其开发步骤、供应链结构与应用类型

人脸识别是人工智能研究的子领域，专注于使用深度学习来构建能识别图像和视频中人脸的软件系统。人脸识别技术的开发过程包括三个主要阶段：训练数据收集、算法开发和软件集成。人脸识别最常见的应用是验证，用于确认一个人是否与其身份记录相关联。另一种应用类型是识别，用于确定目标个体存在于人脸数据库中。人脸识别技术五大应用场景包括：执法、边防、身份确认、访问管理和隐私安全。

二、人脸识别技术开发与应用中的人权风险分析

1、由人脸识别技术开发人员造成的人权风险

人脸识别技术开发人员做出的决定会影响到个人的各种基本权利和自由，报告分析了如下4项可能的人权风险。

（1）个人隐私权：根据训练数据的收集方式，包含其中的个人隐私权可能会受到影响，尤其是在未经受试者知情或同意的情况下使用图像。如果软件集成商在开发过程中没有按照原定设计实践隐私保护，那么系统一旦部署后，就可能造成隐私风险。集成商应最大限度地减少数据收集和存储，或确保人脸识别系统能加密和隔离敏感数据。

（2）不受歧视的权利：大多数人脸识别系统针对不同人群的识别准确率是不同的。如果数据收集者不采取措施确保他们收集的数据能广泛代表使用人群，或算法开发人员不测试他们的算法、检查是否存在偏差，或人脸识别系统软件集成商出售给以有害和歧视性方式使用该技术的运营商，都有可能增加某些群体遭受错误影响的风险。

（3）获得有效补救的权利：数据收集者并不总是向个人提供机会来确定个人信息是否被用于训练人脸识别算法、或请求删除训练数据集中的个人信息。这限制了个人质疑或挑战相关侵权做法的权利。算法开发人员和软件集成商也可能侵犯这一权利，因为他们在将系统出售给运营商后，未能给个人提供申诉机制。

（4）其他基本权利和自由：软件集成商拥有将产品出售给谁或不给谁的决定权，将产生重大影响，包括言论、行动、集会和表达自由；不受随意逮捕和拘留的自由；以及生命权、自由权和安全权。集成商可以通过建立筛选机制来确定潜在客户是否存在侵犯人权的高风险，并可以通过为运营商提供全面培训以减少运营商错误和造成伤害的机会，从而降低这些风险。

2、由人脸识别技术应用而造成的人权风险

报告分析了人脸识别技术应用过程中可能造成的十余项权利和自由侵犯风险：隐私权；表达、集会和社团自由；免于随意逮捕和拘留；不受歧视的权利；获得有效补救的权利；宗教自由；儿童权利；生命权、自由权和安全权；享有适当生活水准的权利；社会保障、福利权；有公正和有利工作条件的权利。

三、针对人脸识别技术各参与方的相关建议

1、针对人脸识别技术开发商的建议。制定有关尊重人权的政策声明；评估人脸识别技术产品和服务对人权的影响；针对人权影响采取行动；跟踪人权风险缓解措施的有效性；沟通如何应对人权影响；提供风险控制的补救机会。

2、针对人脸识别技术运营商的建议

（1）识别和应对人权影响与风险。在应用人脸识别系统前，开展人权影响评估；制定架构与流程，以找到因人脸识别系统的运行而引起的潜在人权问题，确保对调查结果采取行动并将其纳入决策；对面部识别系统进行严格测试，以确定其准确性并确保不存在人群偏见；制定政策以确保遵守相关建议；提供人权风险控制的补救机会。

（2）提升透明度。发布相关政策声明，阐明运营商的人权承诺；在使用人脸识别技术时要明确告知；对有关如何收集、使用和共享数据的组织政策和实践，保持开放和透明；沟通如何应对人权影响；个体能请求访问人脸识别所收集的个人数据，并可请求更正或删除；制定记录保存程序并定期发布透明度报告，详细说明使用情况。

（3）明确应用规则。限制生物特征数据的收集和使用，确保其尊重人权并符合原定的使用目的；践行隐私和数据保护原则；确保员工接受有关人脸识别系统的功能、限制和正确使用的培训；制定有关政策和实践，确保对人脸识别系统做出的决定进行人工监督或审查；实施安全措施以保护注册数据库中包含的数据，并在必要时保留人脸模板数据；为参与人脸识别计划的个体提供自由和知情同意；在应用人脸识别技术时，强化信息保护，包括严格限制注册以及数据重用。

3、针对决策者的建议

（1）制定保护基本权利和自由的法律与监管制度。针对公共和私有部门，明确人脸识别技术的不适用情况；规定可以使用人脸识别技术的法律依据；鼓励采用共同的准确性和非歧视标准；为遭受影响的个体提供补救机会；建立强有力的隐私和数据保护法规，限制数据的收集与使用；为私有部门提供框架以开展人权尽职调查；确保运营商遵守国家或人权法规定的义务，并对侵犯个人权利的组织进行处罚。

（2）监管政府部门的人脸识别运营商。要求公共部门机构在使用人脸识别技术前，开展人权影响评估；针对政府运营商使用人脸识别技术，提供独立的监督机制；确保执法部门对人脸识别技术的使用，受到独立司法机构的监督；阐明如何在法庭上使用人脸识别技术相关证据；要求机构在部署之前进行场景或操作测试，收集有关人脸识别系统实际性能的数据并识别潜在风险；要求政府运营商遵守前述运营商相关规则与原则；要求公共机构公开发布有关其人脸识别技术的政策和程序信息，并定期发布透明度报告，详细说明其系统的使用情况；明确限制政府机构之间以及政府与私有部门之间的数据共享；提供资源支持政府机构的技术能力建设。                （田倩飞 张志强）