研究人员说流行文化中的人工智能的白人化抹去了有色人种

发布时间：2020-08-10 14:57:40 【来源：】

剑桥大学研究人员今天发布的研究显示，在流行文化中将人工智能描述为多数为白人可能会带来许多后果，包括消灭不是白人的人。作者说，将AI占主导地位的描述归一化为白色可能会影响有志进入人工智能领域的人们以及做出雇用决定的管理人员，并可能造成严重影响。他们说，白色不仅被视为具有定型白色语音的AI助手或具有白色特征的机器人，而且由于没有颜色，因此默认将白色视为白色。

“我们辩称将AI种族化为White可以从White乌托邦图像中完全消除有色人种，”阅读名为“The Whiteness of AI”的论文，该论文已被《哲学与技术》杂志发表。“白度的标志和符号的力量在很大程度上在于它们被人们忽视和质疑，被色盲神话所掩盖。正如杰西·丹尼尔斯(Jessie Daniels)和萨菲娅·诺布尔(Safiya Noble)等学者所指出的那样，这种色盲神话在硅谷和周围的技术文化中尤为普遍，在这里它可以抑制对种族框架的严重质疑。”

该论文的作者是勒沃胡姆情报未来中心执行董事Stephen Cave和首席研究员Kanta Dihal。该组织的总部设在剑桥，在伦敦的牛津大学，帝国理工学院和加利福尼亚大学的伯克利分校都有代表。Cave和Dihal在股票图像中用压倒性的白色描述了AI，这些图像用于描述媒体，电视和电影中出现的人形机器人，一个世纪以上的科幻小说以及聊天机器人和虚拟助手中的人工智能。在“人工智能机器人”的Google搜索结果中，对AI的白色描述也很普遍。

他们警告说，将AI视为默认白人会扭曲人们对与整个企业和社会中泛滥的预测机器相关的风险和机会的认识，从而使某些人仅通过中产阶级白人的观点来思考问题。近年来，从自动语音检测系统和流行语言模型到医疗保健，借贷，住房和面部识别等一系列技术中，算法偏差都得到了证明。人们发现偏见不仅基于种族和性别，还基于职业，宗教和性认同。

一个2018的研究发现，大多数与会者归咎于种族身份的基于机器的外表的颜色的机器人，而另一个2018研究论文为可能发现的研究，参与者涉及黑，东亚和白色机器人进行两次与黑人和东亚机器人互动时使用非人性化语言。

流行文化中的白色默认例外，包括HBO的《西部世界》和《频道4》系列《人类》等近期科幻作品中具有不同种族构成的机器人。另一个例子是来自卡通电影Futurama的机器人本德·罗德里格斯(Bender Rodriguez)在墨西哥组装，但由白人演员发声。

加州大学伯克利分校6月份发表论文后，“人工智能的白度”首次亮相。学生Devin Guillory关于如何在AI社区中对抗反黑现象。7月，哈佛大学研究员Sabelo Mhlambi提出了Ubuntu道德框架，以消除歧视和不平等现象，谷歌DeepMind的研究人员也分享了反殖民AI的概念，这项工作也发表在《哲学与技术》杂志上。这两部作品都支持AI，它可以赋予人权力，而不是加强压迫或不平等的系统。

Cave和Dihal称反殖民主义方法是解决AI泛白问题的潜在解决方案。DeepMind研究科学家和反殖民AI论文的合著者Shakir Mohamed在上个月的AI研讨会ICML Queer上，还提出了质疑机器学习的方法，认为这是所有人将更公平的AI形式带入世界的一种方式。

今天发表的论文以及以上几篇著作，都大量引用了普林斯顿大学副教授鲁哈·本杰明(Ruha Benjamin)和加州大学洛杉矶分校(UCLA)副教授Safiya Noble。

凯夫和迪哈尔(Cave and Dihal)将白色AI现象部分归因于人类赋予无生命物体以人类特质的趋势，以及欧洲和美国的殖民主义遗产，其利用优越性来证明压迫是正当的。他们认为，人工智能中白色的盛行也塑造了科幻小说中对未来主义乌托邦的描述。他们写道：“这些乌托邦的作者并没有描述种族或色盲的未来，而是忽略了有色人种。”

Cave和Dihal说，白色甚至塑造了人们对机器人起义的印象，体现了力量和智慧等属性。“当白人想象被上等人超越时，这些人就不像他们所下等的种族。白人观众无法想象，黑人将超越他们。相反，这是他们自己的最高水平：像《阿纳德·史瓦辛格》那样的超级男性白人如终结者，或者像《 Ex Machina》中像阿丽西亚·维坎德这样的女性化白人女性如Ava。“这就是为什么即使是清楚地以奴隶叛乱故事为蓝本的AI起义叙事也将叛乱的AI描绘为怀特。”

作者说，还需要进一步研究白度对人工智能领域的影响。

在伦理学和人工智能的交汇处的其他最新消息中，伯尼·桑德斯(I-VT)和杰夫·默克利(D-OR)本周在美国参议院提出的一项法案将需要获得私人公司的同意才能收集用于创建生物识别数据的数据像面部识别或语音打印这样的技术可以通过AI助手进行个性化，而来自Element AI和斯坦福大学的一组研究人员建议学术研究人员停止使用Amazon Mechanical Turk来创建更实用的AI助手。上周，Google AI发布了其“模型卡”模板，以供人们快速采用详细描述数据集内容的标准方法。

上一篇：研究人员展示了用于自主无人机的全息AR控制系统
下一篇：研究人员发现主要计算机视觉API的性别偏见的证据