人工智能偏见损害黑人家庭和企业。霍华德大学正在努力改变这一现状

万事达卡包容性增长中心

对于大多数人来说，人工智能算法可能是一个谜。原始数据从一端进入，答案从另一端出来。这些信息可能是信用决策、器官捐赠的优先顺序，甚至是您接下来应该在 Netflix 上观看的节目。

但在过去的几年里，有一件事变得越来越清晰——这些算法常常对有色人种群体不利，尤其是在金融领域。当人工智能科学家和工程师团队未能考虑不同背景时，种族偏见可能会渗透到人工智能中。通过选择使用哪些数据以及哪些数据更重要，他们可以创建系统性地对黑人和小企业主不利的算法。

霍华德大学是华盛顿特区的一所历史悠久的黑人大学，正在采取一种新颖的方法来解决这个问题，并从未来的开发人员开始。其新的应用数据科学中心e and Analytics 的部分资金来自万事达卡 500 万美元的资助，将培训下一代数据科学家如何消除人工智能中的偏见。该中心新的研究生数据科学项目将于今年秋季启动，将教学生解决数据公平问题。

“当我们在创建算法的个人技能上不具备多样性时，就会存在潜在的危险，”霍华德教务长 Anthony Wutoh 说。

人工智能偏见可以通过多种方式表现出来。例如，消费者可能没有资格获得信用卡，因为审批 AI 正在查找以前的信用卡付款历史记录，而申请人可能只使用现金。

银行可能会根据邮政编码拒绝想要购买新房的贷款申请人，因为人工智能模型是建立在来自较贫困社区的人会拖欠贷款的假设之上的——“将过去的不公正行为编入他们的模型中，”凯茜·奥尼尔在她的书《数学毁灭性武器：大数据如何增加信用》中写道。造成不平等并威胁民主。”

“解决这个问题至关重要，因为如果不解决人工智能的偏见，就会有效地阻碍人们获得重要服务，”万事达卡包容性增长中心高级副总裁萨拉·戈斯 (Salah Goss) 表示，该中心是该公司负责管理这笔赠款的慈善中心。 “霍华德大学正在采取一种新颖的方法来解决这个问题，投资新一代的专业人士，他们可以从根源上解决这个问题。”

人工智能中的偏见不仅会对黑人社区、其他有色人种社区以及使用这些系统的任何人产生不公平的负面结果。这意味着纠正人工智能偏见有助于为黑人消费者和企业主在金融和信贷领域创造公平，同时也对历史上被排除在正规经济之外的其他群体产生积极的下游影响。

“如果你来自一个贫困家庭，那么你家里可能没有人有信用卡，”Ho 的 William Southerland 说道。沃德生物化学教授，将负责 CADSA。 “你可能在经济上同样负有责任，但你的评估可能会很混乱。”

正如 Wutoh 指出的那样，人工智能的偏见远远超出了金融领域。研究人员发现，一种预测哪些患者需要额外护理的医疗保健算法错误地将黑人患者识别为更健康且需要更少的治疗，这可能会危及他们的健康。 ProPublica 记者发现，制定保释决定的模型将黑人被告标记为再次犯罪的可能性几乎是黑人被告的两倍。

建立更公平的人工智能可以帮助解决这些类型的偏见，并防止种族贫富差距（美国黑人家庭的财富只有白人家庭的十分之一）进一步扩大。近年来，越来越多的公司、非营利组织甚至美国政府都开始讨论消除人工智能偏见的话题。例如，IBM 成立了人工智能道德委员会，而美国则成立了人工智能道德委员会。wmakers 起草了《算法责任法案》。

霍华德的新中心正在采用跨学科方法来改进人工智能。教授不仅来自计算机科学和工程领域，而且来自艺术领域。通过采用更广泛的方法来构建算法，我们希望在偏见成为问题之前消除它。

“我们希望在数据科学民主化方面发挥作用，”Southerland 说。

向霍华德提供的 500 万美元赠款是万事达卡总计 1000 万美元赠款的一部分，旨在帮助历史悠久的黑人学院和大学缩小种族财富和机会差距，创造更具包容性的经济，包括帮助莫尔豪斯学院和斯佩尔曼学院建立黑人创业中心，以进一步为有抱负的黑人企业家发展尖端创业计划、思想领导力、网络以及学术和指导机会。这项投资是万事达卡团结一致的最新投资倡议打击种族主义并为所有人创造平等机会。

“我们希望利用数据科学来回答一些我们认为霍华德可以产生重大影响的更广泛的社会问题，包括医疗保健和经济差异以及刑事司法改革的推动力，”乌托说。 “数据科学涉及一切，并且它将继续对我们所做的一切产生越来越大的影响。”

照片由霍华德大学提供。

查看万事达卡包容性增长中心的更多内容

#黑人历史月 #数据4好 #DataForGood #数据科学 #金融包容性 #包容性增长#团结一致 非裔美国小型企业 人工智能偏见 霍华德大学 万事达卡 纽约证券交易所代码：MA 种族偏见 万事达卡包容性增长中心