蒙特利尔AI伦理研究所建议了一些方法来应对AI模型中的偏见

发布时间：2020-07-02 14:43:27 【来源：】

蒙特利尔AI伦理研究所是一家致力于定义人类在算法驱动的世界中的地位的非营利研究机构，今天发布了其首届AI伦理状况报告。这份128页的多学科论文涵盖了一系列范围，涉及代理和责任，安全和风险以及工作和劳动力，旨在引起人们对上个季度AI领域关键发展的关注。

《 AI道德状况》首先解决了排名和推荐算法的偏见问题，例如亚马逊用于使客户与他们可能购买的产品匹配的算法。作者指出，尽管人们努力将多样性的概念应用于这些系统，但他们通常从算法的角度考虑问题，并从文化和上下文社会意义上剥离它。

报告写道：“人口统计均等和均等赔率是这种方法的一些示例，这些方法运用了社会选择的概念来对数据的多样性进行评分。”“然而，沿着性别界限说，增加多样性面临着解决代表权问题的挑战，尤其是试图减少性别并将种族分为一维，第三方和算法划分的离散类别。”

作者主张采用框架形式的解决方案，该解决方案消除了僵化的归因类别，而是研究了从“不同的”个体的集合中得出的主观类别：确定点过程(DPP)。简而言之，它是一种排斥力的概率模型，将一个人感觉代表它们的数据聚集在一个嵌入空间中，该空间包含单词，图像和其他输入的表示，AI模型可以从中进行预测。

在2018年发表的一篇论文中，Hulu和视频共享初创公司Kuaishou的研究人员使用DPP创建了一种推荐算法，使用户可以发现比以前的工作更好的相关性-多样性折衷的视频。同样，谷歌研究人员测试了YouTube推荐器系统，该系统基于DPP对多样性进行了统计建模，并导致用户满意度“大幅”提高。

《 AI伦理学》的作者承认，DPP留下了一个问题，那就是要从人们那里获得有关代表什么的评分，以及如何以“教学”算法模型的方式对其进行编码。尽管如此，他们认为DPP提供了一个有趣的研究方向，可能会导致跨域AI系统中更多的表示和包含。

作者写道：“人类有做出与每个人的需求都不相符的产品设计决策的历史。”“产品和服务的设计不应因其自身的某些方面而无法改变，从而使人们的工作表现不佳……偏见可以进入[机器学习]开发流程的任何阶段，解决方案需要针对不同的情况来解决阶段以获得所需的结果。另外，致力于这些解决方案的团队需要来自各种背景，包括[用户界面]设计，[机器学习]，公共政策，社会科学等等。

该报告以案例研究的形式考察了Google的Quick Draw(一种试图猜测用户涂鸦的AI系统)。Quick Draw于2016年11月启动，其目标是通过游戏化并将其免费在线提供来从用户组收集数据。但是随着时间的流逝，该系统被排除在诸如女士服装之类的物品之外，因为大多数人都画了中性配件。

“用户使用系统的方式与我们预期的方式不同，因此，[工程师应]思考[他们]可以使用或不使用他们的系统，以及[他们]如何检查盲点。，确保对数据随时间的变化进行某种监控，并利用这些见解为数据的公平性建立自动化测试。”报告的作者写道。“从设计的角度来看，[他们应该]从更全面的角度考虑公平性，并在用户和产品之间建立沟通渠道。”

作者还建议了一些方法，以纠正私营部门追求利润的道德“底线竞赛”。他们断言，市场激励会损害道德，最近的事态发展证明了这一点。尽管像IBM，Amazon和Microsoft这样的公司已承诺不会在不同程度上向执法部门出售其面部识别技术，但包括DJI和Parrot在内的无人机制造商并未禁止警察购买其产品用于监视目的。在Facebook停止允许广告商按种族，性别和宗教来定位广告之前，美国住房和城市发展部提起了诉讼。

作者写道：“只要道德激励与经济激励之间存在差异，我们就有机会引导正确的方向前进。”“在技术部署之前，通常影响是未知的，此时我们需要有一个多方利益相关者流程，使我们能够动态地应对危害。政治和监管实体通常落后于技术创新，不能仅仅依靠它来承担这一责任。”

AI伦理学的状态提出了强有力的断言，即显而易见的是，进步不是靠自己来实现的。它是受周围社会和经济机构(我们负责的机构)影响的有意识的人类选择驱动的。因此，当务之急是，人工智能系统的用户和设计师都必须在塑造这些系统最重要的部分中发挥积极作用。

作者写道：“鉴于人工智能无处不在，并且由于人工智能是一种通用技术，企业家和其他推动创新的人需要考虑到他们的工作将影响更大的社会变革。”“纯粹的市场驱动型创新将忽略社会利益，以创造经济价值……无论我们是否喜欢，经济市场力量都会对社会产生重大影响。”

上一篇：谷歌发布实验性TensorFlow模用于测试AI模型的隐私性
下一篇：当前局势如何加速物联网以及对分布式数据存储的需求