AI证明在锁定期间它无法替代人类内容检查器

当前局势在世界范围内的传播是前所未有的和迅速的。作为回应，高科技公司争先恐后地确保其服务仍可用于其用户，同时还将数千名员工转移到远程办公。但是，由于隐私和安全方面的考虑，社交媒体公司无法将其所有内容主持人转换为远程工作。结果，他们变得越来越依赖人工智能来做出内容审核决策。在过去的几个月中，Facebook和YouTube在其公开公告中都承认了这一点，而Twitter似乎采取了类似的策略。由于当前局势危机，这种对AI的新的持续依赖令人担忧，因为它对在线用户的自由表达权产生了重大而持续的影响。

AI在内容审核中的广泛使用令人不安，因为在许多情况下，这些自动化工具被发现是不准确的。部分原因是在训练算法模型的训练样本中缺乏多样性。另外，人类的言语是流动的，意图很重要。这使得像人类一样，很难训练一种算法来检测语音中的细微差别。同样，在审核内容时，上下文也很重要。研究人员已记录了实例，其中在YouTube等平台上错误地使用了自动内容审核工具将非政府组织发布的视频归类为极端主义内容，记录了伊斯兰国在叙利亚的侵犯人权行为，并将其删除。即使在当前的大流行之前，也有充分的文档记录：没有人在圈中，这些工具通常无法准确地理解和决定跨不同语言，社区，地区，环境和文化的与语音相关的案例。仅AI内容限制的使用使问题更加复杂。

互联网平台已认识到在此期间依赖AI会对在线语音造成的风险，并警告用户，他们应该期待更多与内容审核有关的错误，尤其是与“误报”有关的错误，即被删除或阻止的内容即使实际上并未违反平台政策，也无法共享。但是，这些声明与某些平台对其自动化工具的辩护相冲突，他们辩称只有在确信内容违反了平台政策的情况下才删除内容。例如，Facebook的自动化系统威胁到禁止在平台上手工缝制口罩的小组组织者发表评论或发表帖子。系统还标记了可以完全删除该组。更成问题的是，YouTube的自动化系统无法检测和删除大量宣传价格过高的口罩和欺诈性疫苗和疗法的视频。这些由AI驱动的错误强调了在制定与内容相关的决策时，必须让人们保持循环的重要性。

在当前朝着增加自动审核的方向转变的过程中，Twitter和Facebook等平台也分享了它们将对某些类别的内容进行分类和优先处理，包括与当前局势相关的错误信息和虚假信息。Facebook还明确列出，它将优先考虑可能对用户造成威胁或伤害的内容的删除，例如与儿童安全，自杀和自伤以及恐怖主义有关的内容，并对这些内容的高优先级类别进行人工审核内容已过渡给一些全职员工。但是，Facebook分享到，由于采用了这种优先级排序方法，其他类别的内容的报告在被报告后48小时之内不会被自动关闭，这意味着该内容将被保留。这可能会导致大量有害内容残留在平台上。

除了扩大使用AI来审核内容的用途之外，一些公司还通过缩减其申诉流程来应对容量压力，从而加剧了对言论自由的威胁。例如，Facebook不再使用户能够对仲裁决定提出上诉。而是，用户现在可以表明他们不同意某个决定，而Facebook只是收集这些数据以供将来分析。YouTube和Twitter仍然提供上诉程序，尽管YouTube同意在资源有限的情况下，用户会看到延误。及时提出上诉的程序是用户错误地删除其内容后获得补救的重要机制，并且由于告知用户在此期间还会遇到更多错误，因此缺乏有效的补救程序会对用户的自由产生重大打击。表达权。

此外，在此期间，诸如Facebook之类的公司已决定更多地依赖自动化工具来筛选和查看广告，事实证明，这是一个具有挑战性的过程，因为公司已经制定了政策，以防止广告商和卖家从与广告相关的公众担忧中获利。大流行和出售虚假物品。例如，CNBC在Google上发现欺诈性的口罩广告，承诺对病毒进行防护，并声称它们“得到了政府的批准，可以拦截高达95%的空气传播病毒和细菌。库存有限。”这就引起了人们对这些自动化工具是否足够强大以捕获有害内容的担忧，以及有害广告从裂缝中溜走的后果的担忧。

在线内容治理和在线自由表达的问题从未如此重要。现在，数十亿人被限制在自己的家中，他们依靠互联网与他人联系并访问重要信息。由自动化工具引起的节制错误可能会导致删除不违规，权威或重要的信息，从而阻止用户在危机中表达自己的观点并访问合法信息。此外，由于在此期间在线可用信息量的增长，错误信息和虚假信息的数量也在增加。这就扩大了对负责任的和有效的审核的需求，该审核可以识别和删除有害内容。

当前局势的激增引发了危机，像我们其他人一样，科技公司不得不在没有事先通知的情况下迅速做出调整并做出响应。但是，我们可以从当前发生的事情中吸取教训。尽管民间社会团体提出了反对，但政策制定者和公司一直将自动化工具视为解决在线内容治理问题的灵丹妙药。随着公司在此期间越来越依赖算法决策，这些民间团体应努力记录这些自动化工具局限性的具体示例，以了解将来人类需要更多参与的必要。

此外，公司应利用这段时间确定内容治理领域的最佳实践和失败，并为未来的危机制定尊重权利的危机应对计划。可以理解的是，在这段空前的时间内，补救措施和可用于用户的资源会有些不幸的失误。但是公司应确保这些紧急响应措施仅限于这场公共卫生危机的持续时间，并且不成为常规。

中国联通：已累计开通5G基站33.2万站 到今年年底预计超过38万个

饿了么现已入驻1000所高校食堂 校园内平均20分钟送达

谷歌在西雅图附近规划新园区 在亚马逊和微软总部所在地扩大触角

我国国家顶级域名“.CN”数量超过2300万个 IPv6规模化部署提速

邬贺铨：截至8月我国IPv6活跃用户达3.65亿 占互联网用户之比达40.32%

苹果、谷歌、英特尔等公司已经加入行业组织美国“6G联盟”

微软今天正式终止Win7嵌入式系统支持 花钱可买三年补丁

OPPO将发布首款概念级应用OPPO CybeReal 针对AR领域