随着AI进入内容创作研究人员致力于克服其偏见

发布时间：2019-12-23 11:47:11 【来源：】

随着人工智能每天产生的单词越来越多，USC维特比研究小组力求更好地理解，有一天希望消除对妇女和少数群体的偏见。

想象一下一个世界，在这个世界上，人工智能为美联社撰写了有关小联盟棒球的文章;关于洛杉矶时报的地震;并为“华盛顿邮报”参加高中足球赛。

世界已经到来，机器产生的新闻越来越普遍。AI的子领域自然语言生成(NLG)利用机器学习将数据转换为纯英语文本。除了报纸上的文章，NLG还可以编写个性化的电子邮件，财务报告甚至诗歌。NLG具有比人类快得多的内容生成能力，并且在许多情况下可以减少研究时间和成本，因此NLG已成为一种新兴技术。

然而，根据USC Viterbi博士最近的一篇论文，自然语言产生的偏见比以前认为的要强，这种偏见会促进毫无根据的种族主义，性别歧视和仇视同性恋的态度。学生Emily Sheng;USC维特比大学计算机科学研究助理教授彭南云，在信息科学研究所(ISI)任职;Premkumar Natarajan，ISI的Michael Keston执行总监，USC Viterbi工程副总裁;加州大学洛杉矶分校计算机科学系的张开伟。

该研究的主要作者，盛说：“我认为了解和减轻NLG系统和一般AI系统中的偏见很重要，”女人当保姆：语言生成中的偏见。”

“随着越来越多的人开始使用这些工具，我们不想在无意间扩大针对某些人群的偏见，尤其是如果这些工具旨在成为通用目的并且对所有人有用的话。”

该论文于11月6日在2019年自然语言处理的经验方法会议上发表。

上一篇：Code.org的扩展范围不只是讲授编码概念
下一篇：T大学的八名人工智能研究人员任命CIFAR AI主席