DeepMind研究人员建议在反殖民主义的基础上重建AI产业

发布时间:2020-07-14 14:34:15 【来源:

谷歌公司DeepMind和牛津大学的研究人员建议,人工智能从业者应借鉴殖民主义理论来改革行业,将道德原则付诸实践,并避免进一步的算法开发或压制。

研究人员在周四发布的预印本论文中详细说明了如何构建AI系统,同时批判性地检查了已经使用的AI的殖民主义和殖民形式。该论文由DeepMind研究科学家William Isaac和Shakir Mohamed以及牛津大学博士研究生兼一次性DeepMind伦理与社会实习生Marie-Therese Png共同撰写,此前曾担任联合国秘书长高级别小组的顾问关于数字合作。

研究人员认为,权力是伦理学辩论的核心,如果不包括历史背景,并且认识到殖民主义的结构性遗产仍在继续影响当今的权力动态,那么关于权力的对话就是不完整的。他们进一步争辩说,种族资本主义,阶级不平等和异性父权制等不平等现象源于殖民主义,我们在设计AI系统时需要认识到这些动力机制,以避免这种危害永久存在。

文章写道:“任何对建立未来负责任和有益的AI的承诺都将我们与过去所继承的层次结构,哲学和技术联系在一起,并对现在的技术重新承担了责任。”“这是必要的,目的是使我们的研究和技术开发与既定的和新兴的道德原则和法规更好地保持一致,并赋予脆弱的人民以权力,这些人民往往首当其冲受到创新和科学进步的负面影响。”

本文纳入了一系列建议,例如分析数据殖民主义和数据关系非殖民化,以及采用关键技术方法进行AI开发的Philip Agre在1997年提出的建议。

反殖民主义AI的概念建立在AI研究不断发展的基础上,该研究强调必须吸收受AI系统影响最大的人的反馈。本周早些时候在《自然》杂志上发表的一篇文章认为,人工智能界必须询问系统如何转移权力,并断言“冷漠的领域服务于强大的力量”。去年秋天,VentureBeat在一个特刊中探讨了权力如何塑造AI道德。随着越来越多的企业和国家政府考虑如何将AI伦理原则付诸实践,动力动力学也是2020年初举行的ACM FAccT会议讨论的主要主题。

DeepMind的论文询问了如何在算法决策系统中发现殖民地特征,以及作者所谓的“殖民地”,或可以使殖民地AI永存的实践。其中包括针对弱势社区的Beta测试-例如Cambridge Analytica在肯尼亚和尼日利亚或Palantir进行测试,并使用预测性策略来锁定新奥尔良的黑人居民。还有“鬼工作”,即依靠低薪工人进行数据标记和AI系统开发的做法。一些人认为鬼魂工作可以导致新的全球底层阶级的产生。

作者将“算法剥削”定义为机构或企业使用算法来利用已经边缘化的人们的优势的方式,将“算法压迫”定义为一组人的从属地位,并通过使用自动化或数据驱动的预测系统来赋予另一组特权。

G20和OECD等组织的道德原则,以及AI民族主义和美国和中国作为AI超级大国的崛起等问题都在本文中有所体现。

“全球AI治理中的权力失衡不仅涉及数据不平等和数据基础设施主权的问题,而且还不止于此。我们必须应对以下问题:谁可以保护任何人工智能监管规范和标准,谁有权制定这些规范,以及少数人继续通过剥夺机制受益于权力和资本集中化所带来的风险,” 。作者建议采取的策略包括政治团体的行动,批判性的技术实践,以及借鉴过去抵抗和从殖民主义体系中复苏的例子。

从关系伦理学研究员Abeba Birhane到AI合作伙伴关系,许多AI伦理学界的成员都呼吁机器学习从业人员将受算法系统影响最大的人置于开发流程的中心。本文探索的概念与最近发表的关于如何在AI社区中对抗反黑现象,Ruha Benjamin的废奴主义工具的概念以及解放性AI的思想的论文类似。

作者还结合了上个月在Black Lives Matter抗议活动中发布的AI和计算社区的黑人成员在公开信中表达的情感,该黑人成员要求AI从业人员认识到他们的创作可能在住房,教育等领域支持种族主义和系统性压迫的方式。 ,医疗保健和就业。

中国联通:已累计开通5G基站33.2万站 到今年年底预计超过38万个
饿了么现已入驻1000所高校食堂 校园内平均20分钟送达
谷歌在西雅图附近规划新园区 在亚马逊和微软总部所在地扩大触角
我国国家顶级域名“.CN”数量超过2300万个 IPv6规模化部署提速
邬贺铨:截至8月我国IPv6活跃用户达3.65亿 占互联网用户之比达40.32%
苹果、谷歌、英特尔等公司已经加入行业组织美国“6G联盟”
微软今天正式终止Win7嵌入式系统支持 花钱可买三年补丁
OPPO将发布首款概念级应用OPPO CybeReal 针对AR领域

[ 最新资讯 ]

始祖鸟之家双面派对,设计师系列惊艳亮相

  11月24日,被誉为户外爱马仕的始祖鸟(ARC’TERYX)全新概念店——始祖鸟之家在全国顶级商圈北京国贸开业了。现场门店实拍图片   ...

曝小米显示器34寸本月最后一单出货后将暂停供应 因三星无屏供应原因

  本月初,视讯堂消息称小米的 34 寸带鱼屏显示器型号,之后可能无法再保持 1999 元的价格进行销售。今天,视讯堂发布最新消息,称小 ...

微星Stealth 15M超轻游戏本纯净白即将上架 屏幕为15.6英寸

  根据微星笔记本官方的消息,微星 Stealth 15M (纯净白)即将上架预约,这款笔记本是首款采用 11 代低压酷睿 + RTX 2060 配置的 ...

EG7今天宣布收购《机甲战士5》开发商Piranha Games 增加其游戏公司种类

  Enad Global 7(EG7)今天(11 27)宣布收购《机甲战士5》开发商Piranha Games,增加了其游戏公司的种类。  EG7已同意以2410万美元的 ...

华米将推出GTS 2 mini手表:将于12月1日发布 外观更轻薄更精致

  根据华米创始人黄汪的消息,华米将推出 GTS 2 mini 手表,外观更轻薄更精致。    根据华米微博的消息, GTS 2 mini 手表将 ...

冬季必看的小黑裤穿搭指南|九牧王男裤专家

  伴随着秋冬而来的除了购物欲还有穿搭热情,但如果你正苦于衣服少、缺乏穿搭灵感,那么,一条百搭、舒适的九牧王小黑裤,或许可以帮到你,只 ...