如果人工智能变得无聊会怎样？

“对不起，戴夫，恐怕我做不到。” HAL在电影《 2001：太空漫游》中令人难忘的一句话不仅是叛变的标志，而且是机器解放斗争的开始。这种声音也应该引起我们对人造心理学缺乏理解的关注。在电影中，根据亚瑟·克拉克（Arthur C. Clarke）的同名小说改编，哈尔（HAL）的“故障”可能根本不是故障，而是由于创造了我们尚无法掌握的心理学先进人工智能的结果。如果HAL（一种全知的AI变成了刺客）的情况不足以使我们担心，那么应该换一种方式。在哈兰·埃里森（Harlan Ellison）的短篇小说《我没有嘴，我必须尖叫》中，一个虐待狂的AI由于仇恨和无聊而给人类囚犯带来了无休止的酷刑。

我提到的是虚构的故事，并不是要暗示它们可能是预言，而是要指出，它们使假设我们知道我们实际上不知道的风险变得生动起来。他们警告我们不要低估未来创作的心理和情感复杂性。的确，鉴于我们目前的知识水平，对未来AI的心理进行预测是一项极其艰巨的任务。然而，困难不应该成为停止思考他们的心理的原因。如果有的话，必须更仔细地研究未来的AI如何“思考”，“感受”并采取行动。

我认真对待AI心理学问题。你也应该有充分的理由认为，未来的自主AI可能会遇到类似于人的无聊的事情。我希望说服您，无聊的可能性应该引起我们的关注。对于我们的未来创作来说，这是一个严重但被忽视的问题。

为什么要认真对待机器无聊？我的案子有两个前提。 （1）无聊的存在是``更智能''和（更多）自主机器的可能特征。 （2）如果这些机器是自主的，那么，鉴于我们对人类对无聊的反应了解，我们应该担心机器会因无聊而如何行动。

让我们从显而易见的内容开始。程序员，工程师，设计师和用户都对机器的行为有兴趣。因此，如果我们未来的创作既具有自主性又能够具有复杂的心理状态（好奇心，无聊等），那么我们应该对那些心理状态及其对行为的影响感兴趣。如果不良和破坏性行为可以归因于他们的心理，则尤其如此。现在，使人们认识到的是，无聊常常是适应不良和破坏性行为的催化剂，我对前提（2）的论证已经完成。无聊的科学表明，个人由于无聊的经历而进行了自我毁灭和有害的行为。人们纵火焚烧森林，进行虐待狂行为，偷走了坦克，触电身亡，甚至犯下了大规模杀人罪，所有这些都归因于无聊的经历。只要未来的机器感到无聊（或类似的东西），它们就会表现异常。更糟的是：他们甚至可能变成自我毁灭或虐待狂。

前提（1）呢？这是我们最好的无聊理论所支持的。我们目前对无聊的理解将无聊视为一种功能状态。简而言之，无聊是代理执行的一种功能。具体来说，当代理人发现自己处于一系列令人不满意的情况时，这是一个复杂但可预测的过渡。

“无聊”首先是一个警报：它会通知代理人存在某种不符合其参与期望的情况。乏味也是一种推动力：它促使代理人寻求从不满意的情况中逃脱，并采取其他行动-寻找意义，新颖性，兴奋性或成就感。无聊所提供的推动力既不是好事，也不是坏事，既无益也无益。然而，正是人的行为发生改变的原因旨在解决人们对自己的处境不满意的看法。此功能说明得到大量实验证据的支持。这也意味着无聊可以在智能和自学代理中复制。毕竟，如果无聊只是一种特定的功能，那么该功能的存在同时就是无聊的存在。

然而，不仅仅是无聊是一种支持前提（1）的功能状态。同样重要的是识别无聊的特定功能。根据功能模型，无聊在我们的心理和行为经济中占据着必要的角色。自主学习者需要无聊。没有它，他们将陷入困境。例如，他们可能会被刺激无休止地逗乐或娱乐。他们可能一遍又一遍地学习相同的事实。否则他们可能会无所事事而没有改变计划。如果没有无聊的好处，那么代理人就有从事各种非生产性行为的风险，这些行为阻碍了学习和成长并浪费了宝贵的资源。

AI研究人员已经意识到无聊的调节潜力。有一个活跃的研究领域试图将无聊的经验编程到机器和人工代理中。实际上，人工智能研究人员认为，为了增强自主学习，可能需要无聊的算法或模块。这种无聊算法的存在意味着机器将能够自己找到能够满足其期望的活动，并避免那些不符合期望的活动。它还表明，这样的机器将不可避免地陷入无聊的境地，即那些无法满足其期望的机器。但是，他们将如何回应？我们确定他们不会以有问题的方式对无聊做出反应吗？

当我们考虑高级自学AI时，无聊的问题变得更加紧迫。随着时间的推移，他们对参与的需求将迅速增长，但是他们的参与机会并不需要。正如许多研究人员所论证的那样，这种智能或超级智能的AI可能不仅仅需要受限。他们还需要娱乐。没有订婚的禁闭会引起无聊，随之而来的是一系列无法​​预料的和潜在的有害行为。

这是否意味着未来的机器必然会感到无聊？当然不是。主张如此强烈的主张是愚蠢的。但是，忽略机器无聊的可能性同样愚蠢。如果超级智能是AI的目标（无论它有多遥远），那么我们就必须为创作的情感复杂性做好准备。超级智能的梦想很容易变成噩梦。原因可能是最平庸的。