Twitter正在仔细研究自己的算法 以减少偏差

发布时间:2021-04-16 11:10:48 【来源:国际品牌网】

  国际品牌网4月16日讯 为了解决对算法危害的日益关注,Twitter宣布了一项新计划,该计划将使公司的某些机器学习系统受到更多审查,并为更改任何有问题的AI模型铺平了道路。

  该计划被称为“负责任的机器学习”,不仅旨在提高Twitter使用的AI系统的透明度,而且还可以提高算法的公平性,并在涉及以下技术的技术方面为用户提供“算法选择”可能会影响他们。

  Twitter已承诺对平台的算法决策负责,并已任命负责的ML工作组领导该计划。该小组的成员来自整个公司,将由Twitter现有的ML道德,透明度和责任制(META)团队管理。

  该平台每天有近2亿人使用Twitter,它依靠机器学习模型来完成许多任务,从按相关性组织内容到识别违反服务条款的帖子。

  “当Twitter使用ML,这会影响到数亿每天鸣叫,有时,一个系统的目的是要帮助的方式可能开始的行为方式不同的目的,” META团队成员尤塔·威廉姆斯和软件工程总监鲁曼乔杜里说, 在介绍责任机器学习的帖子。

  在接下来的几个月中,Twitter将提供进行的分析,以评估该平台的三种主要算法中的潜在危害:对图像裁剪算法的性别和种族偏见分析;对不同种族子群体的家庭时间轴建议进行公正性评估;并对七个国家不同政治意识形态的内容建议进行了分析。

  该公司坚持认为分析没有显示种族或性别偏见的证据,但承认自动裁剪照片的方式有可能造成伤害。Twitter承诺对工具进行进一步分析,并承诺在未来的Tweet中为用户提供更多有关其图像的可见性。

  负责任的机器学习计划表明,该平台渴望在发现其系统中的算法危害时采取类似的行动。根据即将进行的分析的结果,该公司不排除更改产品,调整标准和政策或完全删除算法的可能性。

  聚焦大技术

  过去几个月来,科技巨头受到抨击,因为议员们指出社交媒体平台在错误信息的迅速传播中所起的作用。实际上,旨在推动内容推荐的机器学习模型是为最大程度地吸引用户而量身定制的-诸如Twitter和Facebook之类的平台被指责为阻止滋生回声腔的极化内容的传播而做得很少,并且被认为构成威胁民主。

  上个月,随着立法者 对他们的批评-他们未能遏制他们平台上的错误信息,Facebook的马克·扎克伯格(Mark Zuckerberg),Alphabet的Sundar Pichai和Twitter的杰克·多西(Jack Dorsey)都 出现在国会面前。他们特别指出有关COVID-19疫苗的虚假内容,并在1月美国国会大厦企图暴动之前煽动愤怒。

  瑞典于默奥大学社会与道德AI研究人员Virginia Dignum对ZDNet表示:“ Twitter意识到公众已经非常了解政治意识形态问题,而这正是当前人们关注的焦点。” “这是他们为自己的算法决策负责并为表带来透明性的一个好步骤。”

  尽管负责任的机器学习团队所做的工作不会总是转化为可见的产品变更,但至少将有助于提高公众对算法模型的构建和应用方式的认识。

  Williams和Chowdhury表示,该团队将致力于通过共享数据见解和分析,以及尝试解决算法偏差所带来的挑战的未成功尝试,使机器学习对公众和行业更具解释性。

  公众将有机会在自动化系统的设计和部署的每个步骤中提供反馈;科学家们表示,该团队还在努力扩展算法选择,以使用户对平台上已有的AI系统有更多的控制权-然而,该项目仍处于“探索的早期阶段”。

  Dignum说:“开发和决策过程将与可能受到影响的用户一起进行,而不是向用户提供最终结果。” “这是我所见过的最好的方法之一。”

  “当然,事实是布丁。这是一个棘手的问题,没有一个解决方案得到验证和测试。我可以想象它们将面临一些复杂性,但是我对这项倡议表示赞赏。”

  并非所有社交媒体巨头都采取了类似的方法来解决算法偏差。例如,YouTube长期以来一直是激进组织的关注目标,他们关注 该平台的推荐算法可引导用户观看越来越多的极端主义视频。多次提示该公司 ,但没有成功,揭示了该算法的内部工作原理,并允许分析人员评估该模型的性能。

  但是,YouTube承诺做出修改,并声称对系统的更新显示,被视为边缘视频的观看时间平均减少了70%。

韩国今年将开始划拨5G专网频谱 投资1.5亿美元用于开发融合新业务技术
美国三大电信运营商5G平均下载速度不到60Mbps T-Mobile US保持领先
工信部:2020年全国建成5G基站超60万个 5G终端连接数突破2亿
中国移动建成全球最大5G网络 多个领域已处于通信行业世界一流水平
广东5G基站超12.4万个 产业规模、用户数和基站数全国第一
华为聘请巴西前总统担任顾问 确保其参与该国5G无线网络市场
北京计划今年新增5G基站6000个 建设基于区块链的可信数字基础设施
全国移动通信基站总数达931万个 全年净增90万个

[ 最新资讯 ]

中国为合成钻石主要生产国和消费国 消费市场稳居世界第二位

  原标题:中国为合成钻石主要生产国和消费国 未来发展潜力巨大  当前,世界上只有为数不多的几个国家,如中国,美国,俄罗斯和日本, ...

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

Shopee第一季度亏损4.22亿美元

  新加坡的海集团,旗下拥有电子零售商Shopee,今天报告说,其截至3月的三个月净亏损从去年的281亿$扩大至4 22亿$,日经亚洲写道。  这 ...

阿雷佐公司的第一季度利润增长了310%

  巴西鞋类和配饰集团在2021年第一季度的调整后净收入为2960万巴西雷亚尔(560万美元),比去年同期的720万雷亚尔(135万美元)增长了310 7% ...

专业调谐器称Apple TV的自动校准器无法提供

  苹果在四月推出了带有新Apple TV 4K的电视校准功能。颜色平衡选项使用带有Face ID的iPhone上的前置传感器来优化Apple流媒体盒(包括2 ...