限制监视技术是迈出的重要一步但这还不够

发布时间：2020-06-22 13:00:10 【来源：】

在周三致美国众议院领导人的信中，超过100个种族司法和公民自由组织呼吁国会终止联邦对警方用于监视活动家和示威者的监视技术的资助。在纽约，市议会投票通过了《监视技术公众监督法》(POST)，该法案要求纽约市警察局(NYPD)披露其监视手段的使用。在底特律，居民和激进主义者敦促市议会拒绝一项合同，该合同将扩大当地执法部门对面部识别的使用。

在此类立法之前，一些供应商自愿承诺终止或暂停与警察部门的关系。亚马逊和微软表示，由于缺乏监管，他们将暂停(至少暂时)向执法部门出售面部识别解决方案。IBM宣布将退出“通用”面部识别业务，许多移动应用程序和服务使用的定位技术平台Foursquare决定不对最近抗议活动中的数据进行分析。

虽然这似乎是朝着正确方向迈出的一步，但对这些公司的意图持怀疑态度的确是健康的。科技巨头们很快将其行动(或反应)归因于崇高的原因，但通常出于财政或政治动机。AI Now Institute的技术研究员Deborah Raji指出，IBM去年秋天已经悄悄地从其API中删除了面部检测功能，并且美联社报道该公司的决定“不太可能影响其盈利”。亚马逊在继续向警察出售其Rekognition云服务时，面临着来自监管机构，消费者，股东和员工的越来越大的压力。

即使是看似较少参加比赛的公司，也可能并非出于内心的善良而行动。微软(其总裁布拉德·史密斯(Brad Smith)最近将公司在使用面部识别技术上的立场描述为“原则”)–根据该公司获得的电子邮件，该公司早在2017年就曾试图将其面部检测技术出售给美国药品监督管理局。美国公民自由联盟。和报告的拦截和国家研究所的非营利性调查基金显示了IBM合作与纽约市警察局(NYPD)开发一个系统，允许官员的肤色，发色，性别，年龄，以及各种搜索人员面部特征。

OneZero的Jathan Sadowski是悉尼大学智慧城市的博士后研究员，他在本周的专栏文章中借用了Macomb社区学院教授Chris Gilliard的话：“黑力量清洗”。尽管暂停销售监视技术比反对系统种族主义的推文要重得多，但它们最终是有计划的决定。当“做善事”符合公司的最大利益时，此类行为必然达不到道德标准。

Sadowski提倡控股公司负责拆除警察监视基础设施，从手机跟踪Stingray设备和实时分析到预测算法和数据收集系统。他断言，一方面，它们在技术层面上存在严重缺陷。以面部识别为例，美国国家标准技术研究院(NIST)去年12月的一项研究发现，在Raji，Joy Buolamwini，Timnit Gebru和Helen Raynham对面部识别技术进行具有里程碑意义的研究之后，系统比白人更容易误识别黑人得出相同的结论。

POST法以及全国各地城市通过的13项类似法律是积极的一步。44个州的无人机执法使用法规也是如此;旧金山，奥克兰，萨默维尔，布鲁克林和圣地亚哥的面部识别禁令;以及国会两院民主党人提出的改革法案，其中包括对使用警察摄像机的限制。但是，所有这些措施都无法阻止Palantir，Ring，Clearview AI等公司(以及程度较小的Microsoft，Google和Amazon)追究侵犯普通人权利的合同。

“现有的权力秩序是站不住脚的，”萨多夫斯基写道。“从(监视)技术中获利的公司以及将其用于公众的政府没有道德上的权力告诉我们该保留什么，丢弃什么。拆除警务机制是对抗通过此基础架构传递的权力形式的必要方法。”

上一篇：随着玩具数字化Spin Master扩大了游戏业务
下一篇：CVPR挑战推动研究人员改善车祸检测AI