微软机器人编辑迷惑混血小混血歌手

2020-06-10 06:29:07

公司计划在发布错误的音乐家形象后用人工智能取代编辑的计划适得其反。

微软(Microsoft)用机器人取代人类记者的决定适得其反,此前这家科技公司的人工智能软件用一张错误的混血乐队Little Mix成员的照片展示了一个关于种族主义的新闻故事。

在“卫报”披露计划解雇MSN.com的人类编辑,并用微软的人工智能代码取而代之一周后,该软件的早期推出导致了一篇关于歌手杰德·瑟沃尔(Jade Thirlwall)个人对种族主义的反思的故事,并配上了她的乐队成员利-安妮·平诺克(Leigh-Anne Pinock)的照片。

瑟沃尔参加了最近在伦敦举行的黑人生命也是命(Black Lives Matter)抗议活动,她在周五批评MSN,说她厌倦了“无知”的媒体犯下这样的错误。她在Instagram上发帖称:“@MSN如果你打算从其他准确的媒体机构复制和粘贴文章,你可能会想要确保你使用的是群里正确的混合种族成员的图片。”

她说:“这些狗屎总是发生在@leighannpInnock和我身上,这已经成为了一个流传的笑话。”“你不能从一个团体…的四个成员中区分出两个有色人种女人,这让我很生气。做得更好!“。

据Thirlwall公司的消息人士称,Thirlwall不可能知道的是,这张图片是由微软的人工智能软件选择的,该软件已经负责编辑新闻网站的部分内容,该网站吸引了全球数亿读者。

微软不进行原创报道,而是雇佣人类编辑来选择、编辑和重新调整新闻机构(包括《卫报》)的文章的用途。然后,文章被托管在微软的网站上,这家科技公司与原始出版商分享广告收入。上月底,微软决定在流感大流行期间解雇数百名记者,并用人工智能软件完全取而代之。

当被问及微软为什么部署不能区分混血个体的软件,领先企业在部署该公司的人工智能软件时是否会渗透明显的种族主义偏见,以及该公司是否会重新考虑用机器人取代人工编辑的计划时,这家科技公司的一名发言人表示:“我们一意识到这个问题,就立即采取行动解决它,并更换了不正确的形象。”在被问及这一问题时,这家科技公司的一名发言人表示:“我们一意识到这个问题,就立即采取行动解决它,并更换了不正确的形象。”

在这篇文章发表之前,MSN的工作人员被告知,“卫报”将刊登一篇负面文章,内容涉及人工智能软件中所谓的种族主义偏见,这款软件很快就会抢走他们的工作。

由于无法阻止新的机器人编辑从《卫报》等外部新闻网站挑选故事,剩下的人类工作人员被告知保持警惕,如果机器人认为感兴趣并自动将其发布在MSN.com上,请删除这篇文章的一个版本。他们还被警告说,即使他们删除了它,机器人编辑也可能会否决他们的意见,并试图再次发布。

在人工智能软件决定有关这起事件的报道会引起MSN读者的兴趣后,工作人员已经不得不删除批评MSN运行关于Little Mix With the error image的报道的报道。

一名工作人员表示,微软对其人工智能产品的声誉损害深表担忧:“鉴于目前所有的反种族主义抗议活动,现在不是犯错的时候。”