生物树枝状树的计算能力

2020-09-08 23:30:46

下载PDF摘要:生理学实验强调了生物神经元的树突是如何非线性处理分布的突触输入的。这与人工神经网络中的单元形成了鲜明的对比,人工神经网络中的单元通常是输出非线性的线性部分。如果树突树可以是非线性的,那么生物神经元可能比它们的人造神经元具有更强的计算能力。在这里,我们使用一个简单的模型,其中树枝被实现为阈值线性单元的序列。我们发现,这种树枝可以很容易地解决机器学习问题,如MNIST或CIFAR-10,并且它们受益于在树状树的几个分支上具有相同的输入,这个树枝模型是稀疏网络的一个特例。这项工作表明,流行的神经元模型可能严重低估了每对神经元的非线性树突和多个突触的生物学事实所带来的计算能力。下一代人工神经网络可能会从这些生物启发的树状结构中受益匪浅。