高效的深度学习:制作模型更小,更快的调查

2021-06-20 03:52:08

下载PDF摘要:深入学习已经彻底改变了计算机视觉,Naturallanguage理解,语音识别,信息检索等。然而,随着深度学习模型的逐步改进,他们的参数,延迟,培训所需的资源等。拥有所有人都显着下降。因此,要注意模型的这些足迹度量,这一切都很重要,而不仅仅是其质量。我们提出了激励深入学习效率的问题,然后是一个模型效率的五个核心领域的康沃维(跨越式造型技术,基础设施和硬件),并在那里进行精彩作品。我们将一个基于实验的指南与代码一起,用于从业者提炼其模型培训和部署。我们认为这是第一次在高效的深度学习空间中的调查,这些调查包括模型效率的土地景观,从建模技术到硬件支持。 Ourhope是,这项调查将向读者提供精神模型和对现场的理解,以应用通用效率技术,以获得显着的改进,并配备他们的想法,以实现额外的研究和实验以实现额外的提升。