在COVID期间,随着Chat的流量激增,该团队正在测试AI工具来审核内容。 现在,它提供了一个旨在排除裸露内容的过滤后频道

2020-12-28 07:47:51

十年前,Chat是一个互联网超新星,在爆炸之前,它的人气开始爆炸,随后被一堆男性裸露所吸引,从而击退了用户。现在,该应用程序将陌生人随机配对进行视频聊天,获得了第二次机会,这在一定程度上要归功于大流行限制了亲朋好友的社交接触,还得益于人工智能技术的进步,该技术可以过滤最令人反感的图像。

根据Google Analytics(分析)的数据,自年初以来,用户访问量几乎增长了两倍,达到每月400万的唯一身份访问者,是2016年初以来的最高记录。创始人兼董事长安德烈·特诺夫斯基(Andrey Ternovskiy)表示,该平台为熟悉的社交回声室提供了令人耳目一新的多样性和偶然性解药。在Chat中,陌生人会匿名见面,而不必泄露自己的数据或通过广告涉猎。

关于Chat清理行为的彻底程度的一个标志:新兴的公司会议业务。比特和一场关于创业公司的德国会议Pretzels于9月在Chat中举办了为期三天的活动,其中包括与参加者相匹配的Founders Roulette会议。会议宣布:“虽然没有裸体,但充满了令人惊讶的对话。”另一个变化:女性用户已从两年前的11%增长到现在的34%。

特诺夫斯基(Ternovskiy)说,可以帮助游客避免不必要的裸露或手淫的AI是一项不错的投资。它也可以为更大范围的社交网络提供经验教训,这些社交网络努力使内容适度,可能会误导虚假性或毒性。但是,特诺夫斯基(Ternovskiy)仍然梦想着建立一个能够建立人与人之间快乐联系的平台,并告诫技术无法独自实现这一目标。 “我怀疑机器是否能够预测:此内容是否适合我的用户群?”他说。

一名17岁的特诺夫斯基(Ternovskiy)于2009年11月在他位于莫斯科的卧室里编码并创建了聊天室,以此来消灭无聊。三个月后,该网站每天吸引了120万游客。然后出埃及了。特诺夫斯基(Ternovskiy)与肖恩·帕克(Sean Parker)和其他人结下了不合时宜的伙伴关系,以试图保持聊天的重要性。 2014年,他推出了一项高级服务,该服务可根据所需的受众特征对用户进行配对,从而产生了一定的收入。他将其中部分资金投资于带来额外收益的加密货币风险投资中。今天的Chat总部位于瑞士楚格(Cug),是一个加密中心。

在2019年,特诺夫斯基(Ternovskiy)决定在一个专业团队的带领下,以“成人混乱”较少的情况再增加一次聊天,这是一项更受人尊敬的业务。该公司在瑞士成立。 Ternovskiy聘请了拥有机器学习专业知识的澳大利亚人Andrew Done担任CTO。今年初,Done出任首席执行官。他与资深的心理学博士产品研究员,社区经理,人才招聘经理和更多工程师一起加入了研究。然后Covid-19轰炸,交通拥挤。

新团队利用了流量的激增来进行用户研究和测试方式来审核内容,包括来自亚马逊和微软的AI工具。它与未审核的频道一起创建了一个过滤后的频道(现称为随机聊天),旨在排除裸露内容。通过划分这两个渠道,Chatego希望使过滤后的提要更加安全,并吸引对人际关系感兴趣的用户。未经过滤的渠道仍然很受欢迎,但使用量正在减少,Ternovskiy计划在2021年中期将其淘汰。

6月,Chateau聘请了位于旧金山的AI专家Hive进行裸露检测测试。 Hive的软件还会审核Reddit上的内容。高管们对Hive的准确性印象深刻,尤其是在不标记无辜的用户和行为方面。同时,Chateau测试了Amazon Rekognition和Microsoft Azure的审核工具;之前曾尝试使用Google Cloud的Vision AI。

Done说:“ Hive具有一定的精确度,可以大规模使用该技术,而这在以前是不可能的。”他说,Hive“非常精确,以至于在审核循环中使用人会损害系统的性能。也就是说,人类引入的错误要比消除的错误多。”

Hive的联合创始人兼首席执行官Kevin Guo表示,该公司的工具得益于其在100多个国家/地区超过200万人的劳动力,这些工人使用带有“男性裸露”,“赤膊男”和“手枪”标签的图像进行注释。郭说,分散的劳动力鼓舞了公司的名字。该培训数据可为Hive的模型提供预测用户行为的信息。该公司吸引了一些工人(每完成一项任务就向他们收取工资),部分是通过提供比特币来支付的。郭说:“通过比特币付款对我们来说是增长的主要动力,因为迅速传播一个人可以通过执行注释任务来'挖矿'比特币。”

首席执行官Sacha Lazimi表示,另一个Hive审核客户,社交网络Yubo,拥有超过4000万用户,放弃了Amazon Rekognition和Google Cloud的Vision AI,转而使用Hive,因为它便宜且准确。 Lazimi说Yubo仍在使用Amazon和Google的其他服务。

亚马逊网络服务发言人说,该公司的广泛产品对许多大小客户都非常有效。 Chat和Yubo可能有特殊需要。谷歌云发言人表示,该公司的计算机视觉服务在Forrester分析师的2020年报告中超过了Hive。微软没有回应置评请求。

Hive已经处理了超过6亿帧的Chat视频。每个连接都会生成三张图片或框架:一张来自会话开始时每个用户,另一张来自结束会话的用户。 Chats的首席产品官Jack Berglund说,Hive已将不当内容的对话次数减少了75%。有些用户已被禁止;其他人知道他们在被监视时会更加小心。一秒钟内即可检测到带有违规者的流。然后,Hive会提醒在瑞士或俄罗斯的聊天主持人,警告或禁止这些用户。

Hive的AI技术“非常精确,以至于在审核循环中使用人会损害系统的性能。”

领导Hive努力的Done在10月离开了Chat。特诺夫斯基(Ternovskiy)说,他对审核的改进感到满意,但他警告说,某些用户可以通过删除Cookie,更改其IP地址或在两次采样时间之间违反Chat的规则来逃避检测。特尔诺夫斯基(Ternovskiy)说,在自己的主持人的协助下,Chateau还采用了另一种AI技术(光学字符识别)来阻止和禁止该站点上的垃圾邮件发送者。

但是特诺夫斯基(Ternovskiy)认为,聊天室面临的挑战要比节制更大:典型的互动是“平庸”。他说,大约90%的初次访问者永不回国。 Ternovskiy说,Chatego需要改善产品本身,以在大流行后生存并蓬勃发展。他说:“大多数用户不会回来。” “真正的挑战是建立有价值的东西,使人们对定期使用它而不是一次性的东西更有兴趣。”

chatto的研究发现,关于用户是否会返回的最佳预测指标是他们是否参与了“激活的对话”,基本上持续了至少45秒。这就是访问者超越毫无意义的闲聊门槛的关键所在。该公司表示,至少一个对话时间超过45秒的用户在下周内返回聊天室的可能性提高了八倍。每周访问几次的重度用户每次会话花费一到三个小时,并且经常参与多个激活的对话。

特诺夫斯基(Ternovskiy)说,使Chat 2.0取得成功的原因在于,它激励着所有访客行为举止。他设想了一个由用户创建和规范的社区,该社区建立在有价值的交流和相互“幸福”之上。他正在寻找一种方法,以确保用户在负责任的行为者社区中享有“利益”,同时仍要尊重他们的匿名性和隐私权。

他对用户的情绪也非常感兴趣。尽管他承认“这有点反乌托邦”,但他谈到了衡量聊天游客的总体幸福感。监视用户的情绪还可以帮助管理平台。他说:“可以说,伴侣与您交谈时往往会表现出厌恶情绪。” “这对于我们将您踢出去是一个好信号。这只是一个理论;我不确定这在实践中将如何发挥作用。”

📱在最新手机之间被撕裂?不用担心-查看我们的iPhone购买指南和喜爱的Android手机