研究人员提出了更公平的产品推荐算法

发布时间：2020-06-05 14:41:04 【来源：】

在本周于预印服务器Arxiv.org上发表的一篇论文中，罗格斯大学，加利福尼亚大学和华盛顿大学的研究人员提出了一种缓解产品推荐算法中被称为“不公平问题”的方法。他们说，他们的算法为最新的现实世界数据集提供了高质量，可解释的建议，并且在几个关键方面减少了建议的不公平性。

一个公开的秘密是，人工智能系统和受其训练的语料库经常反映出种族，性别以及其他定型观念和偏见。实际上，谷歌最近在Google翻译中引入了针对性别的翻译，主要是为了解决性别偏见。研究人员将责任归咎于AI模型训练数据的不平衡。例如，经济弱势群体不愿在诸如Amazon和eBay之类的电子商务平台上进行大量购买，从而导致历史用户与项目之间的互动不足。由于推荐系统是从这些用户-项目交互中学习的，因此系统会遭受偏见，从而导致某些用户受到不公平对待。

研究人员试图专门针对基于知识图的系统解决该问题，该系统保留结构化和相关的知识，从而阐明了提出建议的原因。他们研究了四个类别商品的Amazon数据集-CD和黑胶唱片，服装，手机和美容品-并分析了非活跃用户(即那些不购买任何商品的用户)与活跃用户(购买者)之间的差异。结果似乎表明，尽管非活动组构成了数据集中的大多数用户(95%)，但是他们的用户项数据模式缺乏多样性。此外，与活动组相比，不活动的组在辛普森的多样性指数(该指标最初用于评估生物多样性，现在用于量化不公平性)上的得分要差得多。

该团队从观察到的知识图将用户项目路径视为相关推荐信号的观点出发，为可解释的建议提出了一种“公平感知”路径重新排序算法。例如，一个人可能希望购买与另一个人相同的手链，因为他们都购买了相同的钥匙链，并且他们可能还会考虑一件毛衣，因为它与之前购买的品牌相匹配。给定一组来自不同组的用户，团队算法的目标是通过在组和个人公平性的约束下对每个用户的路径进行排名来最大化推荐质量。(在这种情况下，组公平性是指两组中的用户保持相同的概率，而个人公平性意味着相似的人受到相似的对待。)

研究人员的算法考虑到：

路径得分考虑的路径种类更多，而超越了过去的历史用户项交互数据的种类，尤其是通过合并去偏权重。

一个多样性分数，考虑了每个用户项目对在可解释路径多样性方面的公平性。

推荐分数，用于计算用户和项目之间的偏好分数。

排序分数，用于对项目进行排序，以确定它们的显示顺序，并遵循推荐分数和公平性分数。

在对上述亚马逊数据集的实验中，研究人员表示，与基线推荐系统相比，他们的算法在推荐和公平有效性方面均得到了改善。在服装数据集上，它的归一化折现累计收益(通过考虑正确推荐的商品的位置来评估排名质量)达到3.101%，而香草系统的收益率为2.856%，并将群体不公平度从1.410%降低至0.233%，同时发现了更多正确的建议。

共同作者承认，他们的算法为最活跃的用户牺牲了一些性能，但是考虑到它提高了非活跃用户的性能，因此他们认为这是可以接受的折衷方案。他们计划在不久的将来在GitHub中以开源形式发布它。

“在这项工作中，我们在知识图上使用最新的可解释推荐算法的情况下研究了公平性的突出问题。相当明显的是，在对两个最近的最新状态采用公平感知算法之后先进的基准方法，与原始方法相比，我们能够检索出更好的推荐结果。”合著者写道。“我们推测，通过调整路径分布，我们的算法可以更好地利用当前可解释的推荐方法的潜力，从而可以为用户提供更多不同的推理路径。由于不活跃的用户由于同质的用户交互而具有较低的用户可见性而受到偏见，因此在我们的公平意识算法下，他们倾向于受益更多。”