图丨Vector Institute成员
当你站在空旷得能听得到回声、但又即将被占满的Vector研究所时，会感觉自己置身于一个未知世界的起点。但是，深度学习最核心的理念早已出现。1986年，辛顿联合同事大卫·鲁姆哈特（David Rumelhart）和罗纳德·威廉姆斯（Ronald Williams），发表了一篇突破性的论文，详细介绍了一种叫作“反向传播”（backpropagation，简称backprop）的技术。普林斯顿计算心理学家乔恩·科恩（Jon Cohen）将反向传播定义为“所有深度学习技术的基础。”
归根结底，今天的人工智能就是深度学习，而深度学习就是反向传播。我们很难相信反向传播已经出现了30多年。为什么它会在沉寂多年后突然爆发？其实，当你理解了反向传播的发展历史，也就会开始明白人工智能的现状，并且意识到，我们也许并非处于一场变革的起点，而是终点。
深度学习，一份迟到26年的礼物
辛顿现在是多伦多大学的荣誉教授，大部分时间在谷歌工作。从 Vector Institute 走到辛顿办公室的路程就是这座城市的一种活广告。特别是在夏天的时候，你会明白为什么来自英国的辛顿在 1980 年代离开匹兹堡的卡耐基梅隆大学并移居此地。