埃亚勒的论文尚未转化为这种实际应用,更没有创造出任何胜过人类的程序。“埃亚勒研究的课题真的是特别,特别难,”特南鲍姆说,“这需要几代人才能解决。”
特南鲍姆留着灰白的长卷发。我们喝咖啡时,他穿着一件纽扣衬衫和黑色休闲裤。他告诉我,他想从反向传播的应用过程中寻找灵感。几十年来,反向传播一直是酷炫的数学理论,但没有真正解决任何问题。随着计算机的运算速度越来越快,工程设计越来越复杂,它突然发挥作用了。他希望同样的事情能发生在自己和学生的研究课题上,“但可能还要花几十年的时间。”
至于辛顿,他相信克服人工智能局限性的关键在于搭建“一个连接计算机科学和生物学的桥梁”。从这个角度看,反向传播是受生物学启发的计算机学突破;该理念最初并非来自工程学,而是来自心理学。因此,辛顿正尝试效仿这个模式。
今天的神经网络由大平面层组成,但人类新皮层的真实神经元不仅是水平分布成层的,还有垂直排列的。辛顿认为,他知道这些垂直结构的作用,比如在人类视觉系统中,这些结构确保我们在视角变化时保持识别物体的能力。因此,他正在搭建一个叫做“胶囊”(capsules)的人工视觉体系来验证这个理论。目前,他还没有成功;这些胶囊并没有显著提升神经网络的表现。但是,他研究反向传播时也遇到了同样的情况,而且持续了近 30 年。