李衍达

中国科学院院士、清华大学教授

以下是李衍达教授的演讲实录：

我今天讲的是“沿着Simon开拓下去”，因为Simon本身开拓精神很强。本来我跟钟义信教授说保证一刻钟就讲完，后来他说不行，你得多讲，现在我就尽量，希望能够在规定的时间完成这个任务。

因为我是做生物信息学的，对人工智能从生物信息学的角度有了一些领悟，所以想跟大家分享一下。Simon教授是人工智能的开拓者，他对人工智能的发展做出了重要的贡献，所谓人工智能是使一部机器的反应方式像一个人在行动时所依据的智能，所以人工智能的目标是实现人类水平的智能。它的出现我觉得可以追溯到图灵的论文“计算机器与智能”，图灵是以图灵机作为计算机器来探讨能否具有人类的智能。

人工智能虽然只是突出机器的反应方式能够类似人的智能，即使如此，人工智能的发展历程很坎坷，对机器能否有智能一直是一个有争议的课题。每当人工智能专家实现了一次突破，比方说有人说如果能证明数学定理我就说你有智能了，结果人工智能专家实现了，把罗素一本书中所有的数学定理都给证明了，还是有人说那不算智能，后来有人说如果你能下棋我就算你有智能，结果机器能下棋了，还是有人说不算智能。有人说你像专家那样给我找矿、看病算你有智能了，这个也实现了，还是有人不服气，说你不是智能。所以这个争议一直是几十年不断的，而且人工智能的历史也有过大的起伏，既有雄心与梦想，也有失败与悲凉，所以可以说，它是一个悲壮的历程。比如1992年日本智能计算机项目宣告失败就是其中一个比较大的起伏。

现在由于深度学习的成功，由于大数据的分析需求，由于社会意识到智能化是社会发展的必然趋势，所以人工智能又一次受到了极大的关注，正在形成一个热潮。但是我们不能忘记历史的教训，如果不能找到通往智能的正确道路，虽然我们可能投入了大量的金钱和人力，我们会否又面临一次悬崖式的跌落。谁能知道现在这个尖峰过后是不是就是悬崖。人工智能几十年的发展历史给我们研究人工智能带来什么启示呢？我觉得只有吸取过往的经验教训，才能够真正的开拓未来。

历史究竟给我们什么启示呢？人工智能从图灵这个论文开始出现了争议，主要的争议是机器能否有理解，机器是否有意识、是否有感情，最核心的争议是这个。比如说维特根斯坦就说过，“智能无法脱离感情力和意志力”，彭罗斯也说过，“人工智能专家常常避开意识去分析智能和思维，智慧问题属于意识问题，如果没有意识伴随就不会有真正的智慧”。面对这样的质问，即使人工智能专家把推理和机器学习技术做到了极致，使机器打败了棋王卡斯帕罗夫，又打败了围棋九段李世石，震惊了世人，但是实质上并没有回答上述的反对意见。归根到底，机器目前没有意识，这是公认的，而且也不知道意识和意志是怎么产生的。

那么机器是否真正可以具有人类的智能？这个争议很久没有办法解决，我觉得突破的出现是在1994年。1994年克里克在他写的“惊人的假设”这本书里面提出了一个观点，他说如果搞清楚大脑产生意识的机制，意识的神秘性就会消失，模拟意识就成为可能，机器就可能具有意识或自由意志。因而，这个是提出我们要探讨意识之源，这个问题的提出使得我们对智能的追问转到了对智能机理的追问，这是一个重大的转折。所以从追问“是否具有智能的性能”转而追问到“是否具有产生智能的机理”，我觉得这是我们突破人工智能困境的一个转折点。

我们再来看看智能计算机研制的失败带给我们什么启示。我们应该回忆一下历史，1981年10月份，日本在东京召开了第五代计算机，就是所谓智能计算机的研讨会，东京大学的元岗达教授提出来“第五代计算机的构想”，随后日本制定了研制五代机的十年计划，总预算当时是达到4.3亿美元，是一个很巨额的投入。以后以渊一博为所长的“新一代计算机技术研究所”为这个目标苦苦奋斗了10年，他们这批人十年里面几乎没有回过家，用近乎玩命似的拼搏进行这方面的研究，但是由于没有突破关键性的技术指标，无法实现自然语言的人机交互、无法实现程序的自动升级等等重要目标，1992年项目宣告失败。

从这个失败里边人们思索有什么教训呢？人们开始思考这个问题。我们研究智能不仅要在功能上仿真这个智能，还要从机理上进行仿真，我们要研究智能产生的机理是什么。另外，我们不仅要用自上而下的推理，还要通过学习，从底向上，互相结合，这是一个重要的思索。同时，人们开始把目光更多的转向世界上唯一的智能体“大脑”，希望深入了解脑的结构、神经元的连接、脑的认知过程，甚至想通过仿真脑神经的连接以图产生智能。所以研究机理和研究大脑是这个失败带来的很深刻的反思。但是问题来了，机器和生物可能具有相同的机理？如果机器是这种机理、生物是另一种机理，这个研究就没有结果。

我是研究生物信息学的，是用信息的观点来研究生物和生命现象，而大家知道，智能是生物进化过程中出现的一种性能，因此，出现生物进化现象的机理和出现智能的机理是一致的，也就是说，产生智能的机理就是生物进化的机理。如果这点对的话，生物信息学会给我们带来新的启发。

生物信息学是从人类基因组计划开始兴起来的，基因组的分析使得我对生物及其机理的认识进了一步，以前至少是我，认为人为万物之灵，所以人的许多特性，比如说思维、感情、智慧等等是其他生物所没有的，但是我做基因组分析的时候就知道了，在基因组这个层面，人、动物可以和微生物、病毒没有什么区别，一样的，所以从进化的角度来看，在基因的层次，各种生物的运行机理都相通，只不过在进化过程里边有早有晚而已。因此，人类的各种特性其他物种经过进化同样也可以产生，这个地方没有截然的鸿沟。

比如说，以前有人说人类会使用工具，其他动物不会，这个结论已经不对了，我们发现有些动物会用工具。有人说人类有语言，其他动物不会有的，现在发现一些动物已经有单词了、还有句子了。有人说人类有感情，其他不会有的，现在发现动物也有感情。人类会数数，现在小狗也会数数。以后你可以发现更多，人类具有的一些特性其他生物同样可以具有。从原理上，他们是同一个进化过程，这个之间没有鸿沟不可逾越。从我们搞系统的人来说，对一个系统性能来说，机理是起了根本性作用。这个地方我并不是说有同样的机理就一定有同样的性能，不是这个意思，我只是说有同样的机理就可能产生同样的性能。但是，我这个地方还要说一件我认为重要的事情，维纳说过，世界上有一个非常奇妙的事情，就是关于随机的无目的的机器能通过学习去探索其本身的目的。维纳说这是阿希贝的光辉思想，他说我相信，这不仅对当代的哲学是个伟大的贡献，而且必将导致自动化技术的高度发展。无目的的随机的机器竟然可以产生目的，这个在世界上是非常奇妙的一个事情。

为什么会这样呢？我做了一点思考，当然第一，进化为适应外界而改变自身结构的这种进化，我认为是世界上最重要的机理之一。进化怎么样使无目的的东西而产生目的呢？我大概有这么一些设想，很可能是错的。我们知道生物最早是从感知产生反应，所以是一种感知反应器。我感到外界有威胁了，我就做出相应的反应，温度高了我就逃掉了，等等是一种感知反应。慢慢进化到条件反射，反应快了，只要这个条件出现我马上就做出反应了，所以通过感知反应不断的反复的学习，我觉得这个条件出现我一定要做这样的反应，出现条件反射，条件反射的出现那个时候已经出现了存储、出现了记忆。条件反射就是学习的结果，如果两个条件反射之间出现一个情况，我应该采用哪一个条件反射呢？这个就是一个新的问题了。所以很可能经过不断的学习，我偏向于这边的条件反射的环境我采用这个条件反射，偏向于那个条件反射的环境我采用那个条件反射，这个就要对这个环境进行分析处理，然后做出决策，到底我采用什么条件反射。也就是说对条件反射的进一步的学习，需要对感知进行处理，同时对处理进行决策。

所以如果到了这一步了，这个系统就会做出决策，决策就是一种自主性的东西，这个决策系统是独立于客观环境的，但是它产生的某一种东西如意志、欲望和目的，所以进化、学习再经过高级的进化、学习的进化，产生了目的性，这个实际上是一个关键。这个想法使我对进化有了新的认识，特别是学习的进化，给我非常深刻的印象。

回过头来说我对人工智能的思考。人工智能长期的争议我也很感兴趣，也思考过这个问题，我也得不到解答，但是有一天我看到了BCI（人机交互），人脑和机器脑的交互，人脑和机器脑竟然可以相互理解、相互交换，我马上就意识到，基因之所以有相同的机理就是因为基因可以交换，交换以后基因之间还可以相互理解，我把这个思想搬到人脑和机器脑思考，是不是在这个层次上会有相同的机理呢，什么层次呢？人脑和机理脑交互的层次是信息处理的层次，不是在化学层次，不是在物理层次，也不是在能量层次，是在知识处理这个层次上人脑和机器脑相互理解。如果人脑和机器脑还可以交换的话，那不就成了跟基因一样了吗，所以我就提出了一个想法，人脑和机器脑能不能进行局部的交换呢？所以我提出了一个假想，这个假想就是如果我把机器脑的一部分替换了人脑的一部分，能不能正常工作？所以我提出一个新的图灵检验，这个图灵检验就是这样，两个人，一个是正常的人，一个人脑子里边一部分用机器代替了、用芯片代替了，你能区分这两个人吗？你给他提问题能够区分两个人吗？如果你区分不出来，我就可以说芯片的运行机理跟你脑子的运行机理是一样的，因为他们完全融为一体，从机理上，所以我提出了新的叫图灵假设。这个意义是什么呢？证明机器的运行机理，在信息处理的这个层次上是不是可以跟人脑一样，当然这个还待以证明，不过我认为部分已经得到证明。视网膜的更换，视网膜是脑的一部分，现在竟然用芯片取代了，可以用芯片工作，竟然实现了。事实从机理上证明了芯片的运行机理，在信息处理这个层次上跟人脑是一样的。我这里说的相同机理大家注意，是信息处理层次上有相同的机理。

正因为在信息处理的层次上具有相同的机理，所以计算机可以像人一样进行推理，推理就是一种逻辑性的东西，是信息处理这个层次上的，所以证明数学定理，可以下象棋，它的技艺甚至可以超过棋王，但是它的范畴只是推理范畴。为什么长久以来计算机不会产生意识呢？这个地方我要着重指出，生物和其他生物不同的一个独特机理，就是自动适应外界变化而优化自身结构的功能，就是进化，所以生物功能不仅是信息处理，更重要的是进化。正因为计算机没有进化的功能，所以计算机目前不管怎么做都没有意识。

如果计算机或者说机器脑跟人脑一样，不仅具有信息处理意义上的一致而且具有进化功能，那么我就相信人脑可能具有的一切机器脑也会有。对智力来说，所谓的进化是指学习的学习，不过这个学习的学习跟软件不同，它是结构也跟着变化，这是很重要的一条，而且结构变化把学习的结果记录下来，还改进了学习方法，而且它的存储和运算是一体的，这是目前计算机难以做到的。这个地方研究计算机的学习进化模式恐怕就是一个新的课题，是我们非常值得关注的课题。如果计算机具有学习和进化或者具有学习进化的模型，你就可以不断的升级了，人类智慧的各种问题他的可能性都具有了。所以如果计算机具有学习进化的功能，会产生感情的，甚至产生意志。

这个地方我们可能会得到一些重要的结果：

第一，从信息处理的观点来看，计算机和人脑是一致的，所以图灵机可以作为计算机和人脑的一个普遍性的模式。

第二，因为学习和进化是智能的关键，所以我们的基础是要研究学习的模型和学习的进化模型，非常值得我们关注。

第三，人脑是经过漫长的进化过程，它的性能在很多方面比计算机要强太多了，所以人脑的许多方面可以供现在的计算机和通信专家研究。脑科学和认知科学的研究对计算机科学来说十分重要。

而且人脑在进化过程里面通过DNA的改变，改变了神经原的连接，这个连接既记录了学习的结果，又优化了学习算法。既简化了所需要的元件，又节省了能耗，非常巧妙。比如深度学习很好，可是目前还用不到智能驾驶上去。自动驾驶汽车遇到行人过马路是有一些问题的，计算机的深度学习速度跟不上，所以目前计算速度还不行。如果你再深究一下，用模拟大脑，把几百亿个神经单元建立起来，按照现在的技术，你的耗电量受不了，所以在计算技术、计算速度、耗电量等等都提出了很多的限制，这就是为什么要开展类脑研究。

第四，计算机的学习进化模型是我们值得关注的一点，当然你用软件是比较容易实现的，但是别忘了，你需要有结构的改变，如果软硬件都能实现进化，那么将来产生的结果是难以估量的。

第五，研究人工智能的人员要遵守相应的伦理规则，要有自律性，要制定基本守则，因为科学是一把双刃剑。

不对的地方请大家指正。谢谢！

（本报告根据速记整理）

CAAI原创 丨 作者李衍达教授

未经授权严禁转载及翻译

如需转载合作请向学会或本人申请

转发请注明转自中国人工智能学会