纽约州禁止在全州学校使用面部识别

2020-07-23 06:26:51

纽约立法机构今天通过了一项禁令,在2022年之前禁止在学校使用面部识别和其他形式的生物识别。这项尚未由州长安德鲁·科莫(Andrew Cuomo)签署的法案,是对洛克波特市学区计划推出的面部识别的回应,似乎是美国第一个明确监管学校使用这项技术的法案。

今年1月,洛克波特学校(Lockport School)成为美国仅有的在所有K-12大楼采用面部识别的学区之一,这些大楼为约5000名学生提供服务。支持者认为,这个耗资140万美元的系统可以通过执行观察名单并在发现危险(或其他不受欢迎的人)时发送警报来保护学生的安全。但批评人士说,它可能被用来监视学生,并建立一个关于人的面部敏感信息的数据库,然后学区可能很难保证这些信息的安全。

虽然洛克波特学校的隐私政策规定,观察名单将不包括学生,数据库将只涵盖被视为威胁的非学生,包括性犯罪者或那些被法院命令禁止的人,但该学区的负责人最终负责监督哪些个人被添加到系统中。本月早些时候有报道称,学校董事会主席约翰·林德曼(John Linderman)不能保证,出于纪律原因,学生照片永远不会被包括在内。

纽约州众议员莫妮卡·华莱士(Monica Wallace)在今年早些时候表示:“一旦我们允许(学校使用面部识别技术),就会打开一个闸门,让数百万美元的州政府资金花在这项技术上,这些技术在可靠性、准确性和价值方面都是有问题的,与使用这项技术带来的风险、隐私、误报等许多方面相比都是有问题的。”今天通过的这项法案是纽约州议员莫妮卡·华莱士(Monica Wallace)提出的。

一个月前代表反对该制度的家长对洛克波特学校提起诉讼的纽约公民自由联盟(New York Civil Liberties Union)周三发表声明,赞扬了这一禁令。教育政策中心副主任斯蒂芬妮·科伊尔(Stefan Ie Coyle)说,“随着全州的学校开始承认黑人和棕色学生在学校受到监管,并被输送到学校到监狱的管道中的经历,这一点尤其重要。”“众所周知,面部识别是不准确的,特别是在识别女性和有色人种时。对于孩子们来说,他们的外表随着他们的成长而迅速变化,生物识别技术的准确性更是令人怀疑。如果错误的学生被确认为假阳性,可能会导致与执法部门的创伤性互动、损失上课时间、受到纪律处分,甚至可能有犯罪记录。

除了洛克波特学校,在学校内使用面部识别系统的一些努力都遇到了家长、学生、校友、社区成员和立法者的抵制。在大学层面,科罗拉多大学(University Of Colorado)一名教授秘密拍摄了数千名学生、员工和游客在公共人行道上为一个军事反恐项目拍照后,媒体爆发了轩然大波。加州大学圣地亚哥分校的研究人员承认,他们研究了学生面部表情的录像,以预测参与程度。去年,加州大学洛杉矶分校(University Of California Los Angeles)公开提议使用面部识别软件进行安全监控,这是关于校园安全的更大政策的一部分。

总部位于波士顿的非营利组织为未来而战,旨在促进与版权立法、在线隐私和互联网审查相关的事业。今年1月,该组织宣布将与倡导团体学生争取明智的药物政策合作,努力在美国大学校园禁止面部识别。为了启动这场草根运动,这些组织推出了一个网站和一个学生团体组织工具包。

许多专家认为面部识别在表面上是有问题的。计算机器协会(ACM)和美国公民自由联盟(ACLU)继续呼吁暂停所有形式的技术。旧金山、奥克兰、波士顿和其他五个马萨诸塞州社区已经禁止警方使用面部识别技术。在美国最近第一波黑人生命也是如此的抗议活动之后,包括亚马逊、IBM和微软在内的公司停止或停止了面部识别产品的销售。全球性别阴影项目和美国国家标准与技术研究所(NIST)对主要供应商系统的基准发现,面部识别技术表现出种族和性别偏见,对不符合单一性别身份的人表现不佳。面部识别程序可能会非常不准确,96%以上的时间会对人进行错误分类。