研究人员提出了使用合成面孔测试性别和种族偏见算法的有问题的方法

在纸张上载预印本服务器Arxiv.org，研究人员在麻省理工学院，加州理工学院，和亚马逊网络服务提出了测量的面部分析算法的算法偏差一个有争议的方法。他们声称，当将其应用于国际议会议员的面部数据库时，它可以识别出年龄，头发长度和面部毛发等属性之间的“重大”失衡，但不能识别肤色。

“虽然我很感激合著者试图找出关于他们如何对待种族和性别等复杂概念的明显缺点，但最终感觉更像是躲闪，而不是真正解决解决减少性别歧视的任何实际问题。监视技术监督项目的联合创始人兼技术总监Liz O'Sullivan通过电子邮件告诉VentureBeat。“随意尝试将图像从一种种族和性别转换为另一种种族，这让我震惊，因为它是高科技的黑脸，在当前环境下，这种技术听起来完全是聋哑的。”

研究人员的结论与Google AI伦理学家Timnit Gebru和AI Now Institute研究机构Deborah Raji发表的具有里程碑意义的工作相矛盾。该研究发现，亚马逊，IBM，Face ++和Microsoft的面部分析系统在白人男性中表现最佳，在肤色较深的女性中表现最差。2012年的另一项研究表明，供应商Cognitec的算法在识别黑人时的准确性降低了5%至10%。在2011年一项研究表明，在中国，日本和韩国开发的面部算法很难区分高加索人的面孔和东亚人。最近，麻省理工学院媒体实验室的研究人员发现，微软，IBM和Megvii面部分析软件在多达7%的肤色较浅的女性，多达12%的肤色较黑的男性和多达35%的肤色较黑的女性中误认了性别。皮肤的女性。

为什么差距悬殊?与以前的工作不同，这种新方法依赖于Nvidia的StyleGAN2生成的图像，而不是真实人物的照片。它一次更改多个面部属性，以生成称为“样条线”的测试图像样本，合著者使用详细的注释对其进行量化，可以将其与面部分析算法的预测进行比较，以测量偏差。

研究人员认为，样条可以让他们预测“新场景”中的偏见，同时“极大地减少”道德和法律挑战。但是像O'Sullivan这样的批评家对任何改进技术的尝试都持怀疑态度，这种技术可能会损害它所识别的技术。她说：“这项研究旨在使面部识别在深色面孔上更好地发挥作用，反过来，这将不成比例地用于监视和监禁深色皮肤的人。”“数据偏向只是面部识别技术存在的问题的一个方面。”

人类注释者是通过Amazon Mechanical Turk招募的，并被告知评估StyleGAN2生成的图像的七个属性：性别，面部毛发，肤色，年龄，化妆，微笑，头发长度和图像伪造。(伪造分数高于特定阈值的图像被删除。)每个属性收集了五个注释，每个图像总共有40个注释，研究人员报告大多数属性的标准偏差很低(接近0.1)，表明“良好一致性”。在注释器之间。

为了测试他们的方法，合著者对试点议会基准进行了基准测试，该基准数据库是来自世界各国的议员组成的面孔数据库，旨在平衡性别和肤色。他们训练了两个“研究级”性别分类器模型-一个在可公开获得的CelebA名人脸数据集上，另一个在FairFace上实现了种族，性别和年龄的平衡，并且使用了预训练的StyleGAN2模型来合成面孔用于样条。

在分析了飞行员议会基准的5335张图像中的偏差之后，研究人员发现肤色在确定分类器的预测偏差方面“不显着”。他们说，如果不控制头发的长度，那么根据头发长度来分配性别的偏见可能会被理解为关于深色皮肤女性的偏见。但是根据他们的估计，肤色与人的面部毛发，性别，化妆，头发长度和年龄相比，具有“微不足道”的作用。

研究人员承认他们的技术存在缺陷。StyleGAN2通常会在增加横断线上的头发长度时向男性面部添加面部毛发，这可能会导致头发较长的男性的分类器错误率降低。当它修饰深色皮肤的面孔看起来很女性时，还倾向于在横断面上添加耳环。根据文化的不同，耳环可能会影响一个人的性别推定。此外，许多生成的人脸包含可见的伪影，这些伪影可能会影响分类器的预测，注释者试图消除这些预测，但可能会错过它们。

O'Sullivan说：“用于创建伪造图像的GAN也保证有偏见。”“你不能通过说'我们的模型只是试图预测人类对种族的看法来回避这个问题。'种族不仅仅是肤色。GAN中存在的任何数据偏差都会转移到新模型的分析中。如果GAN基于主要是白人的训练数据来创建新面孔，则GAN生成的假面孔中将无法代表黑脸(除了肤色)上更常见的其他面部特征，这意味着偏见分析可能无法推广到世界上真正的黑人人口中。”

其他人则认为，在脸部分析和识别技术中可以减轻偏见的程度是有限度的。(实际上，面部识别程序可能会非常不准确;在一种情况下，它们有可能在多达96%的时间内对人进行错误分类。)计算机协会(ACM)和美国公民自由联盟(ACLU)继续呼吁暂停执行程序所有形式的技术。加利福尼亚州的旧金山和奥克兰，以及波士顿和马萨诸塞州的其他五个社区，已禁止警察使用面部识别技术。在美国最近发生了第一波“黑住人”抗议活动后，包括亚马逊，IBM等公司，微软停止或终止了面部识别产品的销售。

中国联通：已累计开通5G基站33.2万站 到今年年底预计超过38万个

饿了么现已入驻1000所高校食堂 校园内平均20分钟送达

谷歌在西雅图附近规划新园区 在亚马逊和微软总部所在地扩大触角

我国国家顶级域名“.CN”数量超过2300万个 IPv6规模化部署提速

邬贺铨：截至8月我国IPv6活跃用户达3.65亿 占互联网用户之比达40.32%

苹果、谷歌、英特尔等公司已经加入行业组织美国“6G联盟”

微软今天正式终止Win7嵌入式系统支持 花钱可买三年补丁

OPPO将发布首款概念级应用OPPO CybeReal 针对AR领域