睡眠不足可能是AI的问题

2020-12-18 22:37:16

机器的显着特征之一是它们不需要睡觉,这不同于人类和任何其他具有中枢神经系统的生物。但是有一天,您的烤面包机可能不时需要小睡,您的汽车,冰箱和其他随着实用人工智能技术的出现而发生革命性变化的东西也可能需要小睡。

当(如果有的话)能够模仿活人大脑的AI系统集成到目前依靠传统计算机和微处理器来帮助我们的各种设备中时,变化就会到来。至少这就是我们在洛斯阿拉莫斯国家实验室进行的新研究的含义,该研究旨在理解类似于活脑内部神经元的系统。

当我们致力于开发与人类和其他生物系统学习方式十分接近的神经网络时,我们就意识到了这一点。我们正在研究这些模拟网络对无监督词典训练的响应方式。在这种活动中,网络开始着手对对象进行分类,而没有与之进行比较的先前示例。想象一下,将许多外来动物的图像交给一个孩子,并要求他们将相似的动物分组在一起。孩子可能不知道羚羊是什么,但是例如,他们会将它们与狮子或企鹅放在单独的堆中。

对于任何幼儿老师来说,我们发现连续学习一段时间后网络变得不稳定,这可能不足为奇。但是,当我们将网络置于类似于活动大脑在睡眠中经历的波动的状态时,稳定性得以恢复。好像我们在给神经网络打一个好的,长时间的小睡。

这种不稳定性并不是所有AI网络的特征。仅当训练生物学上现实的处理器或试图了解生物学本身时,才会出现此问题。机器学习,深度学习和AI方面的绝大多数研究人员从未遇到过这种不稳定性,因为在他们研究的非常人工的系统中,他们具有执行数学运算的奢侈,而这些运算在生命神经元中是等效的。

我们决定将生物学上真实的网络暴露于人工的睡眠模拟之下,这几乎是稳定它们的最后努力。他们自发地产生类似于幻觉的图像。我们对各种类型的数字噪声进行了实验,大致可与调谐收音机时在电台之间遇到的静态噪声相媲美。当我们使用频率和幅度范围广泛的噪声时,最好的结果就出现了。噪音模仿了慢波睡眠时大脑神经元接收到的输入信号,这是我们无法没有的深度睡眠。

结果表明,在人工智能系统和自然情报系统中,慢波睡眠都可以确保神经元保持稳定并不会产生幻觉。

神经网络中的类似睡眠状态与您的PC在经过一段设定的不活动时间后进入的模式有很大不同。进入“睡眠”状态的传统计算机实际上处于暂停动画状态,所有计算活动均被及时冻结。来自IT部门的古老建议是,当PC出现故障时,尝试“关闭计算机然后再重新打开”,这等于使您的计算机遭受短暂的脑部死亡。

这种睡眠模式无法解决不稳定的神经网络。重新启动电源后,只需重置网络即可撤消所有先前的培训,从而使网络严重失忆。在神经网络以及生物中,像睡眠一样的状态不是非活动状态,而是对神经元的正常运行至关重要的另一种活动。

我们刚刚开始在模拟中研究人工睡眠的其他好处。通常,在开始仿真时,仿真网络中的少数神经元根本无法正常工作。我们发现,应用人工睡眠状态似乎可以重置空闲的神经元,以确保它们成为网络中起作用的组件。

随着研究人员建立与生活中的神经系统越来越相似的网络,似乎他们与我们一样需要睡眠就不足为奇了。同样,我们希望先进的AI系统将帮助我们更全面地了解生物系统中的睡眠和其他特征。未来小睡的烤面包机可能会为我们的大脑运作提供新颖的见解,此外还提供温暖而酥脆的早餐食品。