学生反抗眼球跟踪考试监控技术

2020-11-02 21:56:40

埃里克·约翰逊(Erik Johnson)是一名注重隐私的计算机科学专业学生,准备开始迈阿密大学(Miami University)的第一年。今年秋天,当他得知他的两名教授将要求他在课堂上使用数字监控软件Proctorio时,他感到担忧。该软件将学生的电脑变成了强大的监考者--网络摄像头监控眼睛和头部的运动,麦克风记录房间里的噪音,算法记录考生移动鼠标、上下滚动页面和按键的频率。该软件会标记其算法认为可疑的任何行为,以供课堂讲师稍后查看。

最后,约翰逊再也不用使用普罗科托里奥了。在他开始在Twitter上表达自己的担忧,并在Pastebin上发布了对该软件代码的简单分析后不久,他发现自己的IP地址被禁止访问该公司的服务。根据约翰逊与主板分享的一份消息的副本,他还收到了普罗科托里奥首席执行官迈克·奥尔森(Mike Olsen)的直接信息,奥尔森要求他删除巴斯特宾的帖子。约翰逊拒绝这样做,现在正在等待普罗科托里奥是否会像最近几周对其他批评人士所做的那样,采取更具体的法律行动。

约翰逊说:“如果我的教授不灵活,我将完全无法参加考试。”“认为一家公司(或)CEO会仅仅因为引起担忧就影响我的学术生涯,这简直是疯了。”

他的案件只是大学校园如何反抗数字监督软件的使用,以及监督公司为回应这些努力而采取的咄咄逼人的策略的一个例子。最近几周,学生们开始在网上请愿,呼吁世界各地的大学放弃这些工具,加州大学圣巴巴拉分校(University Of California Santa Barbara)等一些校园的教职员工也发起了类似的运动,认为大学应该探索新的评估形式,而不是让学生受到监视。

UCSB的电影和媒体研究教授詹妮弗·霍尔特(Jennifer Holt)告诉Motherboard,“我们需要认真考虑如何适应。”我们应该保护我们的学生。“。

算法监督软件已经存在了几年,但随着新冠肺炎疫情迫使学校迅速过渡到远程学习,它的使用呈爆炸式增长。监考公司援引研究估计,50%至70%的大学生会尝试某种形式的作弊,并警告称,如果学生被留在自己家里无人监督,作弊将会猖獗。

与许多其他科技公司一样,他们也不愿接受让他们对自己的软件使用方式负责的说法。虽然他们的算法标记了设计者认为可疑的行为,但这些公司辩称,是否发生作弊的最终决定掌握在班主任手中。两家公司认为这些算法是专有的,特别是Proctorio已经迅速做出反应,阻止任何能够访问其培训材料或基础代码的人披露他们的分析。

另一家监考供应商ProctorU的首席执行官斯科特·麦克法兰(Scott MacFarland)在给母板的一封电子邮件中写道,“任何呼吁学校‘停止使用’监考的计划都会让作弊变得比现在更普遍,对所有高等教育都会构成严重威胁,”ProctorU的首席执行官斯科特·麦克法兰(Scott MacFarland)在给母板的一封电子邮件中写道。他将他的产品的威慑效果与更无处不在的监控技术进行了比较,他补充说,“我们可能不喜欢每次去银行或便利店都出现在镜头前的想法,但没有人建议把它们拿下。”

关于数字监考如何影响学生的诚实和应试能力,几乎没有同行评议的证据,对这个问题进行深入研究的很少,也没有提供明确的共识。2018年一项跟踪29门课程的2686名学生的研究发现,那些没有使用Proctorio监控考试的学生的成绩比使用Proctorio监控的学生的分数低2.2%。作者得出结论,这些结果很可能是学生没有使用Proctorio作弊的结果。但2019年一项涉及631名学生的研究发现,在考试中感到更高焦虑程度的考生表现更差,而且由监督软件监控的一群学生比那些没有焦虑的学生感到更焦虑。

学生和教育工作者对考试监督软件的反对超出了对隐私的担忧,因为他们在考试时在卧室里被监视和监听。随着越来越多的证据表明这些项目是如何运作的,并未能奏效,批评人士表示,这些工具肯定会伤害低收入学生、残疾学生、有孩子或其他家属的学生,以及其他已经在高等教育中面临障碍的群体。

在过去的一周里,艾哈迈德·阿拉姆里(Ahmed Alamri)每天都在开通ExamSoft,并试图注册加利福尼亚州律师考试的练习版。每次,该软件的面部识别系统都会告诉他,照明太差,无法识别他的脸。阿拉姆里是阿拉伯裔美国人,他曾试图在不同的房间、不同的背景和不同的照明阵列下通过身份检查。他估计,他已经试图核实自己的身份多达75次,但都没有成功。“在我看来,这场模拟考试就是把糟糕的光线读作我的肤色,”他告诉“母板”(Motherboard)。

阿拉姆里并不孤单。全国各地的法律系学生正在组织起来,反对在律师考试中使用任何形式的数字监考软件,比如ExamSoft。在加利福尼亚州,两名学生向州最高法院提交了一份紧急请愿书,要求它完全取消考试,并建立一种新的评估形式。伊利诺伊州也在进行类似的努力,而路易斯安那州、俄勒冈州和威斯康星州由于学生的压力已经取消了即将到来的律师考试。随着考试截止日期的快速临近,包括纽约州在内的其他州也在摸索解决方案;纽约州的考试监考员一度宣布将禁止使用台式电脑参加考试。

在他们的请愿书中,学生们表示,使用ExamSoft歧视有色人种,因为面部识别技术在许多场合被证明在识别深色肤色的人,特别是有色人种女性方面表现得更差。根据请愿书,加州律师考试将要求考生通过面部识别检查验证自己的身份八次,一次失败就会结束考试。

请愿人还对1413名准备参加律师考试的法律系学生进行了调查。“78.8%的非洲裔/黑人受访者,91.7%的阿拉斯加印第安人或印第安人受访者,71.5%的亚洲/太平洋岛民受访者,81.4%的西南亚/北非受访者,以及75.9%的拉丁裔、拉丁裔/a拉美裔受访者”报告称,他们要么在考试期间没有可靠的互联网,要么不确定他们的连接是否可靠。

“他们没有考虑到来自贫困社区的人,”阿拉姆里说。“这种在线考试真的是在衡量一个人的世代财富,而不是他们的法律知识。”

监督公司和大学社区之间的另一个主要争议点是该软件用来检测潜在作弊的算法技术。

在Proctorio提供给大学的培训文件中,该公司解释说,该公司的软件通过检测考生行为中的“异常”来确定考生在任何给定时刻的“怀疑级别”是低、中还是高。如果一名学生比参加同一考试的同龄人更多地将目光从屏幕上移开,他们就会被标记为异常。如果他们看向别处的次数减少,他们就会被标记为异常。学生在回答问题时的击键次数、点击次数以及各种其他指标也是如此。标准偏差之外的变化会产生一面旗帜。

科罗拉多大学丹佛大学Auraria图书馆研究教育技术的研究图书馆员Shea Swauger告诉Motherboard,这种方法可能会导致对有身体和认知障碍或焦虑或ADHD等疾病的人进行不平等的审查。他说:“这些编码者在数学上定义了理想的学生群体:它有多频繁地做到或不做到这些特定的属性,而任何超出理想的东西都会受到怀疑,”他说。

Proctorio和其他监督公司强烈反对这一评估。Proctorio的首席执行官奥尔森在一次采访中告诉Motherboard:“最重要的是,我们并没有做出任何形式的学术决定,我们只是提供了一种更快的方式(为老师们)根据他们想要的东西来审查考试的名额。”他补充说,教师可以选择监控哪些类型的行为,异常是否构成作弊由他们决定。

来自全美多所学校的学生告诉“母板”,虽然老师最终会选择是否以及如何使用像Proctorio这样的考试监控软件,但他们这样做往往没有学校管理部门的指导或限制。

密歇根州立大学(Michigan State University)计算机工程专业学生罗汉·辛格(Rohan Singh)告诉“母板”(Motherboard),据我所知,每个学术部门几乎都有完整的机构来设计课程,每个教授都可以自由设计自己的考试,并使用他们认为合适的任何监控手段。

辛格说,在春季学期结束时,许多大学开始转向在线学习,教授们在没有适当通知的情况下开始使用名为Respondus的考试监控软件后,学校的学生提出了反对。他补充说,虽然如何使用该软件最终取决于教师,但它通常会帮助那些倾向于分发学术不诚实报告(ADR)的教师。他说,根据经验,选择使用Respondus的教授更倾向于使用他们的自由裁量权来发放美国存托凭证(ADR)。

其他近12名学生告诉“母板”,他们或他们的同龄人反对教授在全美其他州立大学使用考试监控软件。

今年4月,正在组织一项说服科罗拉多大学(University Of Colorado)系统放弃普罗科托里奥(Proctorio)的努力的斯沃格在“混合教育学”(Hybrid Pedagology)杂志上发表了一篇批评算法监督的同行评议文章。作为回应,普罗科托里奥给该杂志发了一封信,要求撤回。该杂志的编辑拒绝了。

该公司对温哥华不列颠哥伦比亚大学(University Of British Columbia)学习技术专家伊恩·林克利特(Ian LinkLetter)的回应甚至更加尖锐。在Linctorio开始在Twitter上分享Proctorio培训视频和解释公司异常方法的文件后,这些视频被从YouTube上删除,Proctorio申请法院禁令,以阻止Linctorio分享其培训材料。由于这起悬而未决的法律案件,LinkLetter拒绝对本文发表评论。

奥尔森说,Proctorio欢迎公众对其服务的批评,但当批评者分享该公司尚未公开的记录时,Proctorio会采取行动。

今年3月,在学生们找到加州大学圣巴巴拉分校(University Of California Santa Barbara)的教职员工后,教职员工协会给学校管理层发了一封信,提出了对ProctorU是否会与第三方共享学生数据的担忧。教职员工要求UCSB终止与该公司的合同,并不鼓励教授使用类似的服务。

作为回应,ProctorU的一名律师威胁要以诽谤和违反版权法的罪名起诉该教师协会(因为该协会使用了该公司的名称并链接到其网站)。他还指责教师协会在全国紧急状态期间干预教育,“直接影响到减轻全美公民骚乱的努力”,并表示他正在向该州总检察长提出申诉。

尽管ProctorU从未对UCSB教师协会提起诉讼,但这一威胁对教授们讨论该软件的意愿产生了寒蝉效应。

霍尔特是最先提出有关监督软件问题的教职员工之一,他拒绝与母板具体谈论这场磨难或ProctorU。但总的来说,她仍然担心监督工具在校园里的传播。

她说:“我们必须做得更好,而不是让我们的学生受到监视和侵犯他们的隐私。”“我们必须做得更好,而不是让通过生物特征监控的算法警务成为教育的新常态。”