甲小姐对话特伦斯：进化比你聪明 | 甲子光年
“我们已到了理解大脑的边缘”
作者 | 甲小姐
设计 | 李丹
“神经网络社区有一种看法：你是上世纪70年代需要为神经网络萧条负责的魔鬼。你是魔鬼吗？”
2006年，达特茅斯人工智能会议“AI@50”，科学家们聚在一起回顾自1956年人工智能诞生后的发展。最后的晚宴，特伦斯·谢诺夫斯基转向马文·明斯基，问出上面的话。
明斯基随即开启了一场人们如何不理解神经网络数学局限性的长篇大论。
特伦斯打断了他：“明斯基博士，我问的是一个是或否的问题。你是，还是不是？”
明斯基犹豫了片刻，最终喊道：“是的，我是魔鬼！”
这可谓世界级碰瓷。
明斯基，毕业于普林斯顿大学的天才数学博士、麻省理工大学人工智能实验室创始人之一、首位获图灵奖的人工智能学者、被誉为人工智能起点的达特茅斯会议发起人之一；
特伦斯，全球人工智能十大科学家之一、美国“四院院士”（全美在世仅3位）、全球人工智能专业会议NeurIPS基金会主席，也是最近图灵奖深度学习三巨头的推荐人。
这戏剧性一幕的伏笔，是1969年马文·明斯基和西蒙·派珀特共同出版的《感知器》一书。
书中，明斯基以出色的数学分析证明了神经网络的局限性，让一代人工智能研究者不寒而栗。加上彼时数据和计算能力有限，整个学科被带离正轨，人工智能领域一时寸草不生，进入1974至1980年的第一次寒冬。
“是否魔鬼”的灵魂拷问，源于人工智能一直存在的路径之争。
曾经，建制派被看作“唯一的主导力量”，“逻辑驱动”的人工智能曾主宰数十年。彼时，人们相信依据逻辑的程序是简单的，为了抵达智能，科学家们为每个不同问题编写不同程序，纷纷变成“劳动密集型”工种。但人们低估了现实世界的复杂度，问题越大，程序越复杂，逐渐错误百出、频频崩溃，使这条路进展缓慢；
另一派“野路子”便是深度学习。作为跨学科产物，深度学习不追求解释和逻辑，以神经网络开启了“暴力美学”大门——计算机从数据中学习、进化，让人工智能变成“数据密集型”学科，最终从应用表现中大幅胜出，主宰当今人工智能世界。
此时此刻，经过深度学习训练的计算机，不再被动按照指令运转，而是像自然界的生命由35亿年前开始进化那样，自主地从经验中学习，并改写着这个世界的角角落落。
深度学习的胜利，某种意义上，是底层思想的胜出。
从哲学意味上讲，深度学习饱含着“功能主义”的哲学意味，先求其然，不求其所以然；
从科学方法论上看，深度学习摆脱了数理逻辑的束缚，吸纳了生物学思想，是进化论和“道法自然”的产物。
但也正因其依赖直觉、缺乏理论的特点，深度学习，这个一部分人眼中的“暴力美学”，成为了另一部分人眼中离经叛道的“邋遢学科”，导致了“整洁派”科学家的抵触。
在人工智能已成为新周期最具威慑力的技术颠覆者的今天，是时候重新审视这个老命题了：
深度学习，究竟是傻瓜式的乐高，还是热力学理论到来前夕的蒸汽机？
今天的被访者，正是开篇对话中的挑衅者、在世界上对深度学习最有发言权的科学家之一——特伦斯·谢诺夫斯基（Terrence Sejnowski）。
作为深度学习先驱及奠基者，特伦斯亲历了深度学习在20世纪70年代到90年代的两次寒冬。但他和一众开拓者，利用大数据和不断增强的计算能力，终于在神经网络算法上取得重大突破，成就了如今人工智能浪潮的井喷式发展。同时，他也是最近刚刚出炉的《深度学习：智能时代的核心驱动力量》一书的作者。
直至2016年明斯基去世，他仍坚信神经网络无法实现通用人工智能。
而特伦斯却坚定地告诉我，即使在两次寒冬期，他对深度学习的信心也从未动摇。物理加生物科学的背景，让他深刻地认识到一个道理——“进化比你聪明”。
这位生于上世纪40年代的科学家仍活力焕发，并表达了狂热鲜明的态度：人不要对自己的逻辑太自负，一个光明的智能未来，应始于人类对大脑的模拟，进一步，对自然的模拟。
正如特伦斯在书中写下的：
“我对神经网络的信仰是基于我的直觉，即如果大自然解决了这些问题，我们也应该能够从大自然中学习到同样的解决方法。而我不得不耐心等待的这25年，与自然界的数亿年相比，它仅仅只是一个瞬间。”
人类智能的进化经历了数百万年，人工智能的发展只有60多年。从更高意义上说，深度学习也可以帮我们更好地理解人类自身，它提供了一个全然不同的视角，并正解开这个星球上最为复杂的奥秘——人类智能的本质。
以下进入我和特伦斯的对话。
我们聊了聊深度学习的哲学基础、逻辑的局限性、数学为深度学习带来的最新惊喜，还有机器与人类的永恒孤独。
“任何人工智能的难题都可以被解决。
唯一能证明这一论断成立的是一个事实：
自然界通过进化已经解决了这些难题。”
甲小姐：为什么你对大脑如此痴迷？
特伦斯：基于一个事实——我能做到很多事，却不明白这些事自己是如何做到的。比如，早起睁眼看到一些东西，但究竟是怎么看到的？解一个数学题，大脑又是怎样工作的？ 我有“理解自己”的强烈动机。
甲小姐：你萌生这些想法是什么年纪？
特伦斯：那时我大概五岁，还是个孩子，很擅长玩拼图。父母有朋友聚会时总让我在人前好好表现一番，因为我玩得比他们都好。
回忆当初，我发觉玩拼图时大脑做的就是“模式识别”，识别不同拼图形状和颜色间的相似性。这给我带来了一个重要发现——人脑非常擅长学习，这也是人工智能成功秘诀所在。
以前人们通过写计算机程序来解决问题，但新的人工智能是首先收集大量数据，用学习算法通过经验学习，是通过“隐式”的而不是“显式”的方式去解决问题。
这就是我的故事。始于对自我了解的渴望，逐渐痴迷，最终成为我的事业。
甲小姐：我们有生之年能完全解密大脑吗？
特伦斯：这样预测很难，没人知道未来如何进展，但我认为，我们当前还是取得了不菲的进展，有了巨量的关于大脑和人工智能的发现，两者会碰撞出火花。
甲小姐：中国有句古话叫“道法自然”，很合适用深度学习。简言之，深度学习是仿生产物——搞懂大脑，模仿大脑。
特伦斯：我喜欢你关于“道法自然”的说法。
甲小姐：机器模仿大脑，哪里已模仿得很像？哪里不像？
特伦斯：进步最大的是模式识别，比如图像识别、语音识别、自然语言中的模式识别；进展较慢的是和运动机能系统相关的领域，比如机器人。还没有一个机器人有人类身体这样的灵敏度和灵活性——这是个十分复杂的问题，涉及大量自由度。
之所以我们无法解决这类问题，我认为是深度学习暂时还没有涉及小脑。摸一摸，你的大脑皮层在这里，但后面还有个“迷你大脑”，它是个复杂的运动控制器，对于调节进出大脑皮层而后进入周围区域的信息非常重要。
我们需要看到，深度学习只是大脑皮层的一个模型。从外部看大脑图片时，你仅看到一个表面，但它内部是折叠的，有很多褶皱和波纹。大脑皮层下面的一切都非常重要，比如身体调控、社会融合、情绪控制、运动系统、心脏及所有的内脏调节。大脑中还有数百个其他区域，它们通过进化具备这些功能——但我们还没有把它们放到深度学习网络中。
甲小姐：你在书中写“有时我演讲的开场白是，大脑是已知宇宙中最复杂的设备。但我的妻子是位医生，她常提醒我，大脑只是身体的一部分，而身体比大脑更复杂”。你同意她吗？
特伦斯：我的妻子永远是对的。没有身体，大脑就如无水之源，无本之木，是无法和世界建立联系的。大脑需要身体才能和世界融合，以获得感官输入，再产生运动输出。
甲小姐：我们对模式识别底层机制的理解超过了我们对运动控制底层机制的理解。
特伦斯：确实如此。
甲小姐：解决这个问题要靠脑科学家？
特伦斯：是的。现在我们拥有的人工智能很有限，每种解决一个不同问题，但我们真正想要的是更灵活的系统，弄清如何分配资源。比如「甲子光年」作为一家智库，假设你要应对一个之前从未出现的情况，你会依靠经验制定方案，使用不同系统来理解不同概念框架，产生一些好点子，最终帮助某个公司。你看，大脑可以做到这一点，所以我们必须研究它，发现它。
甲小姐：你书里有句话让我印象很深，“任何人工智能的难题都可以被解决。唯一能证明这一论断成立的是这样一个事实：自然界通过进化已经解决了这些难题。”你还写道，“我们可能会发现细胞和大脑中使进化成为可能的操作系统。自然可能比我们每一个人都更聪明，但作为一个物种，我并不认为人类无法解决智能难题。”自然进化可以用机器模拟吗？
特伦斯：这个星球上有很多生物，我们不明白这一切都是怎么组织起来的。如果我们想要保持某种平衡，想作为一个物种生存下去，我们就需要更开放地向大自然学习。
我认为大脑是一个很好的起点，但我们不想就此止步。下一步就是社会交往。我们是社会物种，通过语言交互大量信息，所以我们不断进化，形成了社区。不仅是大脑，我们还有很多要从大自然中学习，比如自然生态系统与不同物种之间的相互作用。
如果我们不了解社会存在的本质，如果我们倒退像过去一样通过武力和暴力来解决问题，后果将无法承担。我们只有一个地球，如果经历上个世纪那样的动荡，我们将无法承受。
所以我对大脑痴迷的另一个原因是，我认为如果我们不尽快解决这个问题，作为一个物种，我们会陷入麻烦——我们的大脑是在狩猎与觅食的大草原环境下通过不断进化生存下来的，但我们突然生活在70亿人口的世界，活在北京这样的大城市里，这是生物学没有计划到的，这不自然！
现在有非常奇怪的社会问题，毒品、精神疾病、罪犯问题，独裁主义，如果我们不能控制它们的发生，我们必须学会如何处理，而方法就是理解大脑，理解物种进化时大自然在经历什么，然后解决新环境带给我们的问题。
甲小姐：换句话说，自然进化的底层原理还没研究出来，但这是个美好信念，是前进的方向。
特伦斯：同意。我知道这是个雄心勃勃的计划，但我认为我们越来越接近了。
甲小姐：曾经科学家们一度误认为编写计算机视觉程序很容易，这种难度低估造成人工智能一度遭遇停滞。我们是否也低估了以人工智能模仿自然进化的难度？
特伦斯：现在说还为时过早。我们只是向前迈出了几步，但看起来很有希望。让我们再多取得些进展吧！你小时候应该也知道“学会走之前不能跑”的道理？我们刚从婴儿床上走下来，向前迈了几步，我们如果倒了，是因为身体还不够协调，但作为一个物种，给我们更多时间，科学会站到我们这边来。
我想也不会耗费太久，也许接下来30年我们就能上路奔跑了。当然这可能有点乐观，但回看我们走过的路，你会发现，我们其实走了很远，着实令人感怀。
甲小姐：你是个典型的技术乐观主义者。
特伦斯：与其说是乐观，不如说是现实。跟你讲这些，是因为我相信如果没有任何证据支持，没有人能预测未来。回顾历史，看看二百五十年前人类的例子，瓦特发明了蒸汽机，进而引发了工业革命，从此一半的人口不必非得靠人力来生产粮食，一个人就可以做以前一百个人做的事。
“数学是我们作为物种所构建的最好语言，
但逻辑不是所有数学的源泉”
甲小姐：你研究过哲学吗？从你身上能明显感受到“功能主义”哲学思想。
特伦斯：是的，我信奉用历史角度审视事物，并试图通过历史引导未来。其实这是一种更广义的模式识别——回顾过去，找寻历史的模式，从而理解未来的轨迹。
甲小姐：你的书有鲜明的物理学和生物学交织的印记。两个学科最本质的思想不同在哪？
特伦斯：我读了物理学博士，成了一个秉承“还原论”世界观的人，会把问题简化成更简单的模型，以此对世界万物作出预判。但当我学习生物学，我又必须学习一种全新的思维方式。生物学是一门复杂科学，需要不同的数学方法。
我在哈佛大学完成了神经生物学的博士后学习。期间，我决定三年不碰电脑，不想物理，让自己沉浸在生物文化中，像体验一门语言一样，像去国外一样。在那里，你看到每个人说着不同的语言，有着各异的风俗习惯和社会互动方式。我花了三年时间去融入、吸收这种处理复杂问题的思维方式，比如和细胞、神经元或大脑相关的问题。这是我的一个转折点。
甲小姐：那是哪一年？
特伦斯：1979年。
甲小姐：你当时什么年纪？
特伦斯：大概31岁，是我生命中最美好的时光之一，因为我真的能拥抱一种生物学的世界观。
甲小姐：物理和生物两种思想叠加在一起，你收获了什么？
特伦斯：这之后，在我的物理学科背景帮助下，我想出了一种新的生物学方法。我和杰夫里·辛顿（Geoffery Hinton，图灵奖获得者之一）一起开发的玻尔兹曼机模型就是我的物理学科背景和杰夫里的计算机思想的结晶之作，涉及我们从心理学、计算物理学和生物学这些不同领域共同汲取的营养。
甲小姐：我一直很好奇，“逻辑”不是大自然的产物，为什么人类科学的主流思想都是逻辑体系？比如数学、哲学、物理。
特伦斯：没错，逻辑是有它的地位的，可以帮助我们解决问题，但人脑并不是基于逻辑工作的。
我们进化出来的是一个强大的模式识别系统，和一种强大的使用类比、隐喻这些方法的系统，当我们处理一个问题，我们所做的就是回到经验中搜寻——这是什么？我以前见过类似问题吗？这给了我们一个起点，一个假设。
我认识不少数学家，我岳父就是位著名数学家。我们可以问世界级的数学家：“你是怎么得出这个定理的？”他们的回答会是：“我试过这个想法，也试过那种想法，我发现都行不通。但突然间，灵光乍现，也许我试试这个能行。” 也就是说，创造力是不符合逻辑的。
对于数学家来说，他们需要有创造力才能找到突破口，这之后，他们又必须倒回去通过逻辑推导证明它——第一步那创造性的思维迸发可不是通过逻辑推导出来的，而大脑真正擅长的是第一步。逻辑是你必须通过特殊训练才能习得的能力，不是你天生拥有的。
甲小姐：会不会有种可能，过去几百年，人类科学过于看重逻辑体系，反而阻碍了科学的发展。
特伦斯：可能吧，我不知道。我想说的是，现如今社会已经遍布规则，但总会有例外，怎么处理例外？法庭上每个新案件都有不同之处，怎么处理它们？
不同文化处理方式不同，我不知道哪种最好，世界越来越复杂，我也不知道我们将如何应对。但我们不能再含混地应付过去了！纯粹基于逻辑是不足以应对的。
现实中，我们会看事情的背景，“他们的动机是什么？他们为什么在那里？还有什么我们不知道的事情？” 人脑能处理错综复杂的情况，这正是它的美丽之处。我认为人类的思维方式也经历了一个进化过程。如果我们没有完成“思维方式的进化”，我们就不会出现在这里，但要将这种思维方式转化为逻辑是非常非常困难的。我们希望我们做的事最终都是逻辑上有章可循的，但并没有规章法律规定大脑要讲逻辑。
甲小姐：我猜想，各类学科目前对逻辑的依赖，是否和人类进化出的语言有关。人类依赖语言进行交流、管理社会，所以整个社会需要简单明晰的规则，用简单表示复杂。
特伦斯：语言真的很有趣，有强大的交流功能，但也非常模糊，精度非常有限。当你写下一个句子，不同人会用不同方式解释它。这就是我们陷入困境的原因。
甲小姐：特德·姜写过一篇科幻小说《领悟》，讲的是一个重病犯者吃了某种药后呈现出超级思考能力，变得特别聪明。他变聪明后第一件事就是发明了一套新的语言，因为他觉得以前的语言维度如此有限，无法表达他的智慧。
特伦斯：那他是真的很聪明。我认为数学是我们作为物种所构建的最好语言。从美学角度看，它非常漂亮，富有精确性、普适性。我认为最终，我们要做到的一切都将关乎数学，数学将是我们描述事物的方式。但逻辑不是所有数学的源泉。一些数学家注重图形表达，比如几何图形、拓扑结构，另一些数学家非常注重符号和代数操作。
甲小姐：很多时候数学的进步是定义了“新语言”带来的。比如微积分的发明，用语言表达可能很复杂，用公式就简单明了。
特伦斯：同意。
甲小姐：你书中有个细节很动人，明斯基把他关于神经网络的研究发给普林斯顿高等研究院的数学家们，得到的回复是：“如果这在今天不是数学，未来总有一天会是。”人们应该追求深度学习在数学上的可解释性吗？
特伦斯：是的。这真的很令人兴奋，我认为我们现在最重要的问题就是试着解释它，以便理解它为什么能起作用，当然，我们也绝对能做到。
我说过瓦特和蒸汽机的事。物理学家先是看到它真的起作用了，然后尝试是否可以用热力学来分析整个过程，所以发展出了压强和温度理论，在此基础上他们可以进一步提高性能，因为他们已经有了理论基础——一开始，工程师首先建造了一些有用的东西，此后，才是物理学家和数学家来解释它的原理，最后再改进它。
事实上这就是现在发生的事情！几周前，我在华盛顿的国家科学院一个题为“深度学习科学”的会议上，观众中有很多数学家。他们已经取得了很大进步，解释了他们具体是怎样训练出有十亿个参数的模型。这是空前的。统计学家和物理学家使用的是低维模型，只有几个参数。现在这里有个十亿参数的数学函数模型，深度学习就是一个函数类，这是数学家的专长所在。现在我们要深入了解这一点，这将有助于提高我们的工作成果。
“旧的AI已是明日黄花了，
我们有了新的AI，
虽然它只是第一步”
甲小姐：人工智能的终极目标是实现对大脑的完整模拟，还是可能会半路绕道，进入另一个形态？
特伦斯：最初目标是拥有与人脑相同的功能，但我们永远不会、也根本没必要对大脑进行完美复制。真正的问题在于，要试图理解这些基本原则是如何从自然界中提炼出来的，从而指导我们构建事物。顺便说，科幻小说、《终结者》电影中那些具体的机器人形象不是AI，那只是我们的幻想。
甲小姐：现实中会真实发生什么的AI是什么？
特伦斯：你看过科幻电影《她》吗？
甲小姐：看过。
特伦斯：这就是会发生的事。AI不会以身体的形式出现在你面前，但会以感官的形式呈现，比如有声音与你互动。我认为这是非常私人的一件事，它会和你有情感交流。这就是将会发生的事。
甲小姐：为什么这个世界需要这样的AI？
特伦斯：因为我们孤独。
甲小姐：我曾看过一种观点，随着你说的这类AI的发展，人类文明会变的越来越内向。难道说我们不应该积极想办法走出地球，变成一个更外向的文明吗？
特伦斯：外向当然并非不可，但谈到内向的问题，你得明白，如果你有一个能理解你的AI私人助手，这将会彻底改变教育，意味着当一个孩子来到这个世界，我们可以给他安排一个AI，帮他理解复杂数学，处理世上各种复杂之事。你可以想象，未来的不同AI将能呈现不同的关系，有的和我们身体相关，有的还可以充当我们的忏悔神父，你可以和他倾诉，或者问一些个人问题，比如：“我最近感情上有些不顺，希望你能帮助我。”
甲小姐：随着这类AI的发展，人类作为一个种族，会变得愚蠢吗？
特伦斯：恰恰相反。回顾历史，教育学生最好的方法就是1对1教学。如果AI能做到这一点，意味着所有人都会更加聪明。有钱人请私人老师来教育子女，不就是因为这种方式能让孩子获得更好的教育吗？谈到走出地球，我不会送人去，让AI去就好了。
甲小姐：您的《深度学习》一书非常应景。ACM刚刚公布2018年图灵奖获得者，深度学习三巨头约书亚·本吉奥（Yoshua Bengio）、杰夫里·辛顿（Geoffrey Hinton）、延恩·勒昆（Yann LeCun）获奖，“深度学习”获得了最高荣誉。
特伦斯：他们都是我的朋友。
甲小姐：你对他们表示祝贺了吗？
特伦斯：当然。我打算在四月份参加为Geoffrey、Yann和其他人举办的一个盛大聚会。其实是我提名了他们。我给Yann LeCun，Yoshua Bengio 和Geoffrey Hinton写了推荐信。 所以，可以说我为他们得奖提供了帮助。
甲小姐：三巨头获奖背后，是一段经历了寒冬的艰辛之路，被中国媒体喻为“图灵奖颁给熬过寒冬的人”。整体而言，深度学习在今天被低估还是高估了？
特伦斯：再次回顾历史，我们会发现每一次进步都是跳跃式地发生的，而伴随其后的则是一个更长时期的缓慢前行，没人能预测下一轮重大突破什么时候到来。
有本书叫《科学革命的结构》，作者托马斯·库恩在里面提到了范式转移的概念。举个例子，量子力学从经典力学转变而来，这是个重大的范式转移，是个重大进步，但同时意味着我们又要从零开始，只不过是在一个非常高的层次上重新开始。50年来，在量子力学方面的研究要求我们将其他事物都纳入这个体系中，所有东西都必须重新思考，包括电、磁、重力等等，还是要花很长时间才能把这些东西真正整合到新的框架体系中去。
这就是我们现在的处境。我们取得了一次大的跳跃，我们现在处于更高的AI基础之上，我们也在寻求新的框架体系。旧的AI已是明日黄花了，我们有了新的AI，虽然它只是第一步，但它不会就此消失，因为没有人会丢掉有用的东西。
甲小姐：过去几经寒冬，你对深度学习的信念从没动摇过？
特伦斯：我想说的是，深度学习只是众多学习算法中的一种，比如AlphaGo，除了深度学习，它还有时间差分学习，是两个大脑区域的结合式学习，比单纯的深度学习做得更好——其实大脑中还有一百多个区域是我们现在还没有囊括进来的，做到这些还需要时间。
甲小姐：在未来，你会觉得人工智能的发展会继续主要沿着深度学习的路径走，还是会有一种更先进的思想出现，成就下一个高光时刻？
特伦斯：我毫不怀疑，在中国的某个地方将会有一个年轻学生，一个新的年轻的特伦斯横空出世，证明我们现在的想法都是错的，然后提出更好的想法。
END.
*欢迎留言与分享，我们将在留言中选取相关议题点赞数最高的「甲子光年」关注者，随机发放66-188元的红包。谢谢您的认真阅读！
| 往期精选 |