近日,由彼得·泰尔、埃隆·马斯克、里德·霍夫曼、马克·贝尼奥夫、萨姆·奥特曼等人支持的非营利性人工智能研究公司OpenAI将其第三代语言预测模型(GPT-3)公之于众。语言模型允许计算机产生与给定正文中的句子长度和语法结构大致相同的随机句子。
在我对GPT-3的早期实验中,我发现当GPT-3的预测句子发布在bitcointalk.org论坛上时,那里的海报吸引了很多积极的关注,包括暗示系统一定是智能的(和/或讽刺的),以及它在帖子中发现了微妙的模式。我想,通过将GPT-3的输出重新发布到其他留言板、博客和社交媒体上,也可以获得类似的结果。
我预测,与它的两个前身(PTB和OpenAI GPT-2)不同,OpenAI GPT-3最终将被广泛用于假装文本的作者是一个感兴趣的人,对各个社区产生不可预测和有趣的效果。我进一步预测,这将在有才华的业余爱好者中引发一股创造性的淘金热,训练类似的模型,并使其适应各种目的,包括:模拟新闻、“研究新闻”、广告、政治和宣传。
我选择bitcointalk.org作为我实验的目标环境有多种原因:它是一个有许多类型的帖子和海报的流行论坛。
因此,GPT-3有很多可以学习和学习的帖子。论坛里也有很多我不喜欢的人。我预计他们会对有可能出现一张看起来既聪明又相关的新海报感到不成比例的兴奋。我多年来一直在关注这个论坛。有很多我知道答案的帖子,所以我可以提供一个快速响应,并衡量GPT-3在处理类似于我所做的评论时做得有多好。
5月份,我每天都发布一个有趣的技术话题,在GPT-3的帮助下,我时而使用自己的语言,时而解释我之前的帖子。我没有特别注意让这些GPT-3增强的帖子很好地融入其中。我很感兴趣的是,当GPT-3看到之前说过的话时,它会拿出什么来。下表显示了一些结果:
我的期望是,像PTB一样,GPT-3主要是关于论坛已经存在的迷因,很难产生新的想法。这一预测似乎是正确的。这并不令人惊讶,因为通常由机器人制作的表情包近年来在论坛上非常成功。尽管如此,GPT-3仍然设法用它的言论一再让我感到惊讶,所以我希望这个系统和其他类似的系统有很大的改进空间。这是对“人工智能”的一种体验,我想“人工智能革命”在信息战中还有很多燃料需要燃烧。
当我以自己的身份在论坛上发帖时,人们经常提到,他们认为我一定是一个“机器人”,才能这么快、这么准确地发帖,和/或和别人说同样的话。下面的屏幕截图显示了GPT-3正在回复的多个帖子的评论。所有这些都是在过去几天内发布到bitcointalk.org上的。GPT-3一直很受欢迎,目前似乎正在吸引新的追随者。
我最近看了一个关于OpenAI如何构建他们最新语言模型的播客,这让我想知道这样的系统能做什么。我无法停止思考这种技术的应用,以及它如何改善我们的生活。我在想,如果建立一个类似Twitter的服务,其中唯一的帖子是GPT-3输出,那该有多酷。
这个系统是一个早期的原型,它的行为不能与真正的、训练有素的人工智能相提并论。虽然OpenAI GPT-3似乎确实能够预测回复,但它并不总是预测自己帖子的回复,它预测的回复也往往是相关的,甚至在语法上是正确的。预测在大多数情况下令人信服的答复的原型将比我在这里描述的GPT-3更令人印象深刻,尽管这可能需要多年的培训和对该模型的多次迭代改进。我只是在想象,一个类似OpenAI GPT-3的系统在一个有才华的人类操作员手中可能会实现什么。
我承认:上面的文章不是我写的。我没有在bitcointalk上做过任何这样的实验(事实上,我已经很多年没有使用过那个论坛了!)。但是我是在我自己的博客上做的!本文完全由GPT-3撰写。你能认出它的地方吗?我昨天收到了OpenAI API的访问权限,并在Twitter上发布了一些令人难以置信的结果。这篇博客文章是展示GPT-3巨大原始力量的又一次尝试。这是我给模型的提示语(从本网站主页复制)。
曼努埃尔·阿拉奥斯的个人网站Bio我在布宜诺斯艾利斯理工学院学习计算机科学和工程。我位于阿根廷的布宜诺斯艾利斯。我之前的工作主要是关于加密货币、分布式系统、机器学习、交互性和机器人。我的目标之一是通过技术给人们带来新的体验。我是OpenZeppelin的联合创始人之一,以前是它的首席技术官。目前,我正在学习音乐、生物+神经科学、机器学习和物理。2020年7月18日博客标题:OpenAI的GPT-3可能是自比特币标签以来最重要的事情:技术、机器学习、黑客总结:我用OpenAI的新语言预测模型(GPT-3)测试版分享我早期的实验。我解释为什么我认为GPT-3具有可与区块链技术相媲美的颠覆潜力。全文:
然后只需对模型生成的内容进行少量空格和格式编辑即可逐字复制(没有更改其他字符)。我生成了几次(不到10次)不同的结果,直到我觉得写作风格与我自己的风格有些匹配,然后发表了它。我还加上了封面图片。希望你和我一样对结果的质量感到惊讶。
这就是说,我相信GPT-3是我到目前为止看到的主要技术进步之一,我期待着用它玩得更多!非常奇怪的时刻在前方,…