决定性十年的人权评估：技术部门的创新方法

作者：Dunstan Allison-Hope，BSR 副总裁

本博客是有关技术行业人权评估的系列博客中的第二篇。上一篇博客描述了挑战；该博客提出了解决方案。

之前，我们发表了一篇博文，描述了在科技行业进行人权评估时出现的挑战，例如规模、不确定性以及用户在影响力方面的作用。在这篇博文中，我们提出了应对这些挑战的方法 - 有些我们已经在实施，有些则代表了该领域的创新。

1.人权源于设计

正如我们之前提出的，“设计中的人权”方法将带来一系列专业社区（企业和人权团队、产品经理、研究和设计团队以及销售和营销团队）的见解，将人权考虑因素充分融入到设计、开发和销售中新产品、服务和技术。它将通过确保在整个设计过程中刻意融入对人权的尊重来加强产品设计过程，并可以做出更多尊重权利的设计选择。最近，Google 在其名人识别产品中采用了这种方法，在产品发布之前采取了各种措施 - 这是我们迄今为止看到的利用这种方法的最佳示例之一。

2.人权评估构成更广泛的人权尽职调查框架的一部分。

人们很容易将人权评估和人权尽职调查混为一谈，但事实并非如此。正如联合国工商业与人权指导原则（UNGPs）明确指出的那样，人权评估只是人权尽职框架的一部分，还应包括将评估结果纳入决策、跟踪评估回应的有效性，并沟通如何解决影响。

人们很容易将人权评估和人权尽职调查混为一谈，但事实并非如此。

这些要素在科技行业中具有特殊意义，随着产品、服务或技术在现实世界中的使用，人权影响可能会随着时间的推移而发生变化。方法可能包括提供报告产品滥用的渠道、查明可能表明问题的数据趋势以及随着时间的推移传达修正的想法。 Facebook 监督委员会是人权评估成为更广泛的尽职调查框架一部分的一个很好的例子。除了社交媒体平台之外，识别和报告产品滥用的渠道（例如，当面部识别系统导致歧视性结果时）似乎还不发达。

3.全部门人权评估。

随着我们继续解决技术带来的人权影响在制药行业，我们开始相信一个重要的群体需要更积极地参与：将技术融入其业务运营、战略和计划的“非技术”公司。正如我们之前所写，有关技术和人权的对话可能会过于关注技术本身，而对部署该技术的公司关注不够。我们提出的解决方案之一是完成对使用技术的行业（例如金融服务、医疗保健、运输、零售和执法）的全行业人权影响评估，为公司和政策制定者提供可行的建议，说明如何通过整个价值链的协作来避免、预防和减轻技术使用带来的人权影响。这也将有助于解决对全系统方法的需求，这是我们在上一篇博客文章中提出的另一个挑战。

4.更多参与易受攻击的用户。

UNGP 明确指出，人权评估应涉及与潜在受影响群体进行有意义的磋商，并特别关注人权对可能面临较高脆弱性或边缘化风险的群体或人群的个人的影响。在技术行业，公司确定“角色”来代表可能使用产品、服务或技术的不同用户类型，并根据他们的需求进行设计。人权评估将受益于从更加多样化的背景中更仔细地识别“人物角色”，以及与真正的潜在用户接触以了解他们的权利可能受到的影响。这需要人权和产品研究团队之间进行更深入的合作。

UNGP 明确指出，人权评估应涉及与潜在受影响群体进行有意义的磋商，并特别关注人权影响对来自可能面临较高脆弱性或边缘化风险的群体或人群的个人采取行动。

5.将未来方法论纳入人权尽职调查。

未来思维，也称为战略远见，为公司提供了一套工具来应对快速变化、不确定性和复杂性——这些特征使科技行业的人权评估变得如此具有挑战性。在 BSR，我们正在尝试在人权评估中使用这些工具，作为识别我们可能会错过的潜在恶意技术使用的方法，确定与这些案例相关的人权影响，并采取措施解决这些问题。早期的试点非常有前途，与我们合作的公司发现，发现盲点和拓宽视野可以让他们做出更明智的决策，并帮助他们为不确定的未来做好准备。我们相信有宝我们倾向于比现在更多地运用未来思维，并扩大公司外部利益相关者的参与。

6.为行业标准和政策、法律和监管框架提供信息的评估。

我们在上一篇文章中描述的许多挑战无法通过负责任的公司单独行动来解决。例如，当用户无视产品服务条款时，或者当人权风险本质上是全系统范围时，较少尊重权利的公司介入提供其他公司拒绝提供的服务。在这些情况下，孤立地进行人权评估显然是不够的，我们需要更全面的方法来消除侵犯人权的行为。然而，通过系统地识别不利影响，我们确实相信人权评估可以提供极好的见解，为标准、政策和法规的制定提供信息。因此，我们非常欢迎企业在发布人权评估作为更广泛的政策对话的投入时，人权评估的受众不应仅限于公司。

我们希望这六个想法（每个想法都源自与公司的现实接触）有助于加强有关如何改进 UNGP 在技术行业中实施的讨论。然而，这些想法还依赖于整个行业的公司（而不仅仅是领先公司）进行人权评估和实施人权尽职调查框架，因此，我们对强制人权尽职调查的呼声越来越高也很感兴趣。只有当人权尽职调查成为常态而不是例外时，这些解决方案才能真正发挥作用。

最初出现在 BSR 上。