一名大学生使用GPT-3,写了虚假的博客帖子,最终登上了HN的榜首

2020-08-17 03:31:02

据“麻省理工学院科技评论”报道,大学生利亚姆·波尔使用人工智能语言生成工具GPT-3制作了一篇虚假博客文章,这篇文章最近登上了“黑客新闻”的榜首。Porr试图证明GPT-3制作的内容可以欺骗人们相信它是由人写的。他告诉“麻省理工学院技术评论”,“实际上,这非常容易,这是最可怕的部分。”

因此,如果您不熟悉GPT-3,请先做好准备:它是由总部位于旧金山的OpenAI设计的一系列AI自动完成工具的最新版本,并且已经开发了几年。在最基本的情况下,GPT-3(代表“生成性预先训练的变压器”)会根据人类作家的提示自动完成您的文本。

像所有深度学习系统一样,GPT-3在数据中寻找模式。为了简单起见,该程序在一个庞大的文本语料库上进行了训练,挖掘这些语料库以获取统计规律。这些规律对人类来说是未知的,但它们被存储为GPT-3神经网络中不同节点之间数十亿个加权连接。重要的是,这个过程不涉及人工输入:程序在没有任何指导的情况下查找和查找模式,然后使用这些模式来完成文本提示。如果你在GPT-3中输入单词“fire”,程序就会根据其网络中的权重知道,“卡车”和“警报”比“清晰”或“精灵”更有可能紧随其后。到目前为止,一切都很简单。

以下是Porr的博客帖子(作者为化名)的一个样本,标题为“感觉效率低下?也许你不应该再想太多了。“。

定义2:过度思考(OT)是试图想出别人已经考虑过的想法的行为。通常不会产生不切实际、不可能甚至愚蠢的想法。

是的,我也想我能弄清楚这不是人写的,但在这些互联网上有很多不太好的文字,所以我猜这可能会被认为是“内容营销”或其他一些内容。

OpenAI决定让研究人员以私人测试版的形式访问GPT-3的API,而不是首先将其发布到野外。波尔是加州大学伯克利分校(University of California,Berkeley)的一名计算机科学专业的学生,他找到了一名已经可以使用API的博士生,这名博士生同意与他合作进行这项实验。Porr写了一个脚本,为GPT-3提供了博客帖子、标题和简介。它生成了几个版本的帖子,Porr选择了一个版本作为博客,从GPT-3的版本复制粘贴过来,只需很少的编辑。

波尔说,这篇帖子在几个小时内就像病毒一样传播开来,该博客的访问量超过了2.6万。他写道,只有一个人联系到询问这篇帖子是否是人工智能生成的,尽管有几个评论者确实猜测GPT-3是作者。但是,波尔说,社区否决了这些评论。

他建议GPT-3“写作”可以取代哈哈的内容制作人,这是人们当然希望不会发生的笑话。Porr写道:“以私人测试版的形式发布它的全部意义在于,这样社区就可以向OpenAI展示他们应该鼓励或关注的新用例。”值得注意的是,尽管他已经申请了GPT-3API,但他还没有进入GPT-3API,他向MIT技术评论承认,“他们可能对我这样做感到不安。”