IBM首席执行官Arvind Krishna在今天致国会的一封信中表示,IBM将不再提供通用面部识别或分析软件。IBM告诉The Verge,该公司也将不再开发或研究这项技术。克里希纳致信参议员科里·布克(D-NJ)和卡马拉·哈里斯(D-CA),众议员卡伦·巴斯(D-CA),哈基姆·杰弗里斯(D-NY)和杰罗尔德·纳德勒(D-NY)。
Krishna在信中说:“IBM坚决反对也不会容忍使用任何(面部识别)技术,包括其他供应商提供的面部识别技术,用于大规模监控、种族定性、侵犯基本人权和自由,或任何不符合我们的价值观和信任和透明原则的目的。”“我们认为,现在是就国内执法机构是否以及如何使用面部识别技术展开全国性对话的时候了。”
面部识别软件因存在种族偏见和隐私问题而受到审查。
由于人工智能的进步,面部识别软件在过去十年中有了很大的进步。与此同时,这项技术-因为它通常是由私人公司提供的,几乎没有监管或联邦监督-已经被证明受到年龄、种族和民族方面的偏见,这可能会使这些工具在执法和安全方面不可靠,并且已经成熟,可能会侵犯民权。
例如,美国国家标准与技术研究所(National Institute Of Standards And Technology)2019年12月的一项研究发现,“在目前评估的大多数人脸识别算法中,存在跨越人口统计学差异的广泛准确性的经验证据”。这项技术也因其在侵犯隐私方面的作用而受到抨击。
值得注意的是,NIST的研究没有包括亚马逊的技术,亚马逊是为数不多的向执法部门出售面部识别软件的大型科技公司之一。然而,该项目的名称Rekognition也因其准确性而受到批评。例如,2018年,美国公民自由联盟(American Civil Liberties Union)发现,Rekognition将28名国会议员与从2.5万张公开面部照片中挑选的面孔错误匹配。
另一家名为Clearview AI的公司从今年早些时候开始受到严格审查,因为发现其面部识别工具被私营部门公司和执法机构广泛使用。该工具由30多亿张图片构建,部分来自抓取社交媒体网站。自那以后,Clearview已经收到了无数的停止令,并处于许多隐私诉讼的中心。Facebook在1月份还被勒令支付5.5亿美元,以了结其非法使用面部识别技术的集体诉讼。
IBM试图帮助解决面部识别中的偏见问题,在2018年发布了一个公开数据集,作为面部识别模型训练数据的一部分,旨在帮助减少偏见。但IBM也被发现在未经受试者同意的情况下分享了2019年1月从Flickr拍摄的近100万张照片的单独培训数据集-尽管这些照片是在知识共享许可下共享的。IBM当时在一份声明中告诉The Verge,数据集只会被经过验证的研究人员访问,并且只包括公开可用的图像。该公司还表示,个人可以选择退出数据集。
在信中,克里希纳还主张进行警察改革,认为应该将更多的警察不当行为案件置于联邦法院的职权范围内,国会应该对限定豁免原则进行修改,以及采取其他措施。此外,克里希纳表示,“我们需要为所有美国人创造更开放、更公平的途径,以获得适销对路的技能和培训”,他建议国会考虑在全国推广P-tech学校模式,并扩大获得佩尔助学金的资格。