Noam Chomsky关于深度学习的未来

在过去的几周中，我一直与我最喜欢的无政府主义者诺曼·乔姆斯基（Noam Chomsky）进行电子邮件交流。我最初与他联系是为了询问ANN（人工神经网络）的最新发展是否使他重新考虑了他著名的语言理论通用语法。我们的对话涉及深度学习的可能局限性，人工神经网络对生物大脑的建模有多好，也蜿蜒于更多的哲学领域。由于我们的讨论是非正式的，因此我不会在本文中直接引用乔姆斯基教授，但我将尝试总结关键的要点。

诺姆·霍姆斯基（Noam C homsky）首先是语言学教授（许多人认为他是“现代语言学之父”），但在学术界之外，他可能是一名活动家，哲学家和历史学家而广为人知。他撰写了100多本书，并在2005年由《外交政策与前景》杂志进行的民意调查中被评为世界领先的公共知识分子。

作为记录，我是乔姆斯基作品的崇拜者，尤其是他对美帝国主义，新自由主义和媒体的批评。关于他对大陆哲学家（特别是法国后结构主义者）的解雇，我们的观点略有分歧。成年初期，我经常被福柯，拉康和德里达的油井所吸引而使我中毒，但是我一直发现乔姆斯基的哲学分析方法在道德上具有吸引力，但有点“干净”，无法令人满意地解释我们的世界。尽管他对这些后结构主义名人不屑一顾，但乔姆斯基的哲学观点比他的批评者认为他要微妙得多。

我将从一开始就声明自己不是语言学家，但是在本节中，我将尝试概述通用语法理论。在乔姆斯基之前，语言学的主要假设是，人类天生就是具有“塔布拉·拉萨”（tabula rasa）（像一块空白板）的思想，并通过强化来获得语言。也就是说，孩子听到父母说话，模仿他们听到的声音，当他们正确地使用单词或结构句子时，就会受到赞扬。乔姆斯基的研究表明，强化只是故事的一部分，人脑中必须具有与生俱来的结构，这些结构具有普遍性，并且可以促进语言习得。他的主要论点是：

孩子们学习语言的速度太快，而且从稀疏数据中获得的语​​言也太少，以至于无法通过强化学习来解释（也称为“刺激的贫困”论点）。

即使呈现与人类相同的数据，动物也无法获取语言。 1960年代曾进行过一次著名的实验，语言学家试图教黑猩猩（名为“尼姆·汉普斯基”）来学习手语，但是10年后，他仍然无法完成一些基本的任务。

所有人类语言之间都有共同点。这表明，即使语言是独立发展的，由于所有人类大脑的共同结构，仍具有普遍的特征。

Warning: Can only detect less than 5000 characters

我对此读物的最初保留意见是，如果我们假设道德只是“合并”（或同等原始的东西）的结果，那么虽然这可能会施加理论上的约束，但我的直觉是我们的道德可能会发生巨大变化，以至于实际上是不可能的做出通用声明。过去，乔姆斯基讨论过道德进步如何遵循某些趋势（例如接受差异，拒绝压迫等），但是我很难看到这些广泛的趋势将如何从如此简单的原子认知结构中不断出现。当我向乔姆斯基教授讲这句话时，他认为这种观点是虚幻的，并且当我们不了解事物时，它们看起来比实际情况更加多样化和复杂。他举例说明了自寒武纪爆发以来在动物身体计划中看到的差异。仅在60年前，生物学中的主要观点是，生物的变化如此之大，以至于必须对每个生物进行单独研究，但是我们现在知道这是完全错误的，并且物种之间的遗传变异也很小。复杂的购置系统的变化必须最小，否则我们将无法获得它们。