hod lipson：当机器开始学会自我反思-凯发游戏

●●●

hod lipson 的演讲题目是《当机器开始学会自我反思》。他认为通过制造能学习自我模拟的机器人，未来的机器人或将拥有意识与自我认知。

以下为演讲全文：

非常感谢！近一个世纪以来，我们一直致力于开发智能机器，我们曾经尝试制作能够模仿人类外形和行为的机器人。这是1939年举办的纽约世博会，这场盛会和本次大会一样都是人类对未来的预测，人人都对未来充满了好奇心。这是当初参展的机器人，它能够如人般行走、交谈，想必点烟抽烟这种动作也难不倒它。 

但对机器人而言，最重要的功能，恰恰也是它缺少的功能，便是智能。我们一开始不知道该如何制造智能设备，事实证明确实非常艰难，所以我们先提出构想，然后一步步实现。我们就机器人和智能设备的外观，展开想象、发散思维。不论是优质又令人满意的机器人，还是残次品，亦或是仿真型机器人，我们都制作过，总有一些美中不足，或是出现自我矛盾等故障。

我们经历了重重困难，但那时制作出的机器人，总是不尽人意。要制作出完美的机器人听起来就是白日做梦。但时至今日，我很确定地告诉大家，这个美梦即将实现！机器人研究领域出现了两大颠覆性的变化，不断推动行业的发展，这是我们未曾预料到的。

先来看看最明显的变化，也就是摩尔定律，它向人们展现出计算机性能在短短数十年内的飞速变化。如今，摩尔定律或它的延伸版本也频频出现，它认为机器（即计算机）的性价比每隔几个月就会翻倍。以对数标尺的角度来看，还是有些难以理解，但当我将数据取出，套入线性标尺内，过去120年内计算机性能的迅猛发展就一目了然了。与美元相对，这些是每秒十亿次浮点运算次数，常用于测量计算机性能发展速度，这张图也很清晰地展现出迅猛的发展趋势。这些都是真实的数据，并非凭空捏造，也不是空口举例。 

现在是2019年，回顾2010年的“井底之蛙”，当时的人们认为自己拥有非常高速的计算机，但跟现在的计算机相比其实不值一提。而这种发展趋势必将延续下去，因为过去的120年就是这样稳步发展而来。再过几年，未来的人们再回顾今朝，又将忍俊不禁。等到明年大会时蓦然回首，又将对去年拥有同样想法的人们发出感叹。大家可以一直盯着这张表，然后问自己：如果未来计算机运行速度是当今计算机的一百倍，你可能会用它来做什么呢？下载电影吗？人类到底可以利用这样快速的机器做些什么？我认为，这样的机器可以用来打造更高效的人工智能系统。 

让我们浅谈一下人工智能在前几年的发展，不仅体现在计算机运行更快、成本更低、性能更优，大约五年前，人工智能领域也进行了一场改革。机器在一纳秒内可以看到一张像这样的图片，然后告诉人们图上有一只猫和一只狗。这看似微不足道，毕竟一岁小孩就能看图说话了，但却成为了ai研究人员数十年都难以突破的瓶颈。在高超算法和神经网络的帮助下，这件事才能在一纳秒内完成。正是这看似微不足道的发现，为自动驾驶、无人机、便利健康诊断等领域带来了天翻地覆的变化。

当然，研究硕果远不止这一项。现在看到的是可以后空翻的机器人，它们能做出令人难以置信的动作。看了这些，你可能会觉得由人类主宰的时代要过去了，但这不过是时刻发生的变化之一。我们制作的机器人拥有全新的想法，是可以设计蛋白质的机器，能设置信号的人工智能。这是我客厅里的机器人，它在画布上作画，自己造出了真的还算有趣的原创艺术品。还有可以感知人类情绪的机器人，它们能够表达情绪、微笑，只有你想不到，没有它做不到。一般人看到这种机器人都会对我感叹：“它们太神奇了！”它们可以捉猫抓狗、进行诊断、驾驶汽车、做后空翻、创造新事物，令人大开眼界。

机器人能够感知情绪并表现出来，这太令人惊叹了！那么我们未来能够创造出拥有情感的机器人吗？情感是人类独有的能力吗？我们可以赋予机器人这种能力吗？比如能为自己思考，能够自我感知的这类拥有意识的机器人未来也会出现吗？自我意识是只有人类才具备的神奇能力吗？所以我们开始研究这一模糊概念下的术语，我们称之为感觉能力，即机器拥有的情感和自我思维等能力。这正是我们追求的目标，也是我们试图赋予机器的能力。但我们尚未明确这种能力是什么，我们无法定义“感觉”，也不理解它的工作机制。所有研究这一方向的神经系统科学家以及研究人类的我们，并不了解这些事物的起源以及它们运作的机制。

其实从历史角度来看，不论是普通人、神学家还是哲学家，他们都突破了时间、文化和地理的限制，不断思索人类与生俱来的自我意识和自我认知，并且各执己见。可惜，至今的研究成果并不多，只能将许多这样无法解释的术语称为模糊术语。我们无法解释其真正的含义，有时人们认为意识不过是对物质世界的反映。为什么这么说呢？我们并不了解其内涵意义，也无法作出有价值的解释。俗话说，“如果你不能解释得通俗易懂，那就说明你还没有完全理解。”

在我看来，如果不能将其构建出来，就不算真正的理解。为机器赋予自我意识成为了眼下的难题。那什么是意识呢？自我认识又是什么？我一般会给它下一个很现实的定义。在我看来，意识和自我认知就是模拟未来自我状态的一种能力。也就是说，你可以想象未来的自己将会体验到什么样的感觉，将会采取什么行动，进而预测自己将会有什么反应，这就是预见未来的自己。你预测未来的能力就体现在你的自我认知程度。比如，你看到一张海滩的图片，你就能想象脚底踩着细沙，鼻尖闻到海水的味道，耳边传来海浪的拍岸声，这就是一种自我意识的体现。自我意识并不是非黑即白的，它可以划分为不同的程度。

事实上，它作为一个连续体，决定着你对未来的预测结果，与未来的距离以及预测的精确度。举例来说，小狗可以预测下次吃饭时的感受。也许它的自我意识只能延伸到下一餐或第二天的生活，而人类则能够预见自己的退休生活。所以小狗会为此储存食物，而人类会为退休后的生活做足准备。所以我们能够预测未来生活，就是对自我意识的一种有效假设。

自我意识不仅是关于未来走向的假设，你还可以在内心自我模拟、进行规划，这就是人类独有的模拟能力。因此，当你面对一片池塘，边上有脚踏石，请问你将用什么办法穿过这片池塘？你能够穿过它吗？你可以想象自己的行走路线、落脚位置、第一个落脚点、第二个落脚点等等，由此完成模拟过程。然后你再决定是否要走这条路，在脑海中模拟一下就能轻松解决。假设你正在爬树，你可能会预见自己将抓住哪根树枝，落脚点在哪里。这就是你在脑海中模拟预测并规划的能力，无需实际操作，也不需要为错误付出代价，就可以了解整体并规划完成。这种能力非常有效。可能会有人提出质疑，认为这样模拟行为太耗时了。

实际上，机器人也一直在进行模拟，事实证明模拟就是几乎所有机器人的初始行为。我们在模拟中通过设计、编程、测试来制作机器人，甚至赋予它们学习能力。机器人领域近期的惊人成果，几乎都是通过模拟学习取得的，这就是open ai的作用。伯克利有一台可以轻易操纵物体的机器 ，但在此之前它已经在模拟环境中学习了两个世纪。虽然在云端上五分钟就能搞定，但这为期200年的训练有它的意义所在。这个机器人动作得体，还能四处走动（见笑了！我也不知道他们为什么一直在踢它）。

这无疑是一种更好的测试方法。这里有一个学习走路的机器人，它在模拟环境中学习可以事半功倍，所以机器是可以在模拟环境中学习的。但不同之处在于，所有模拟行为均由工程师设定，因此这些行为都比较简单。我们不知道该为它模拟些什么动作，但肯定不会太容易也比较耗时。我们不知道什么样的模拟内容比较重要、什么样的内容不重要。通常模拟行为还未完成，机器人就已经磨损了！那么问题来了，机器人能够自我模拟吗？这是最后一步，也是最关键的一步。

目前有个大问题：人类又是从何物模拟而来呢？我相信这是与生俱来的能力，也许在出生时就自带一些基本架构。幼儿时期在玩耍时边听边学了很多知识，这种玩耍不是在消磨时光，而是幼儿接触物质世界的渠道。我们开始了解自我、身边的物质世界、肌肉的运动、感知范围，然后理解这些事情的运作原理。

这是我们前几年做的机器人，它学会了自我模仿，其实它的构造非常简单，四条腿、一对感应器和制动器。但它没有眼睛，因而也无法观察这个世界，它只能感应自身。出于需要，它还学习行走。现在它通过模拟自我来行走，我们看过它的大脑，内部构造非常简单。从一开始我们就可以看到这个机器人是如何“看到”自己的。起初它不知道自己是什么，可能是条蛇，或者是一只蜘蛛、一条机械臂。它不知道自己有多少个部件，经过两天的摸索它开始意识到自己有四条腿，但却不知道这四条腿的连接方式。当它在围栏里又玩了四天后，形成了自我形象，这足够让它靠想象学会走路了。它不知道如何在现实世界中行走，这比较难，进展缓慢，且有风险。它还不知道自己是由外部软件开发人员编写而成，通过脑内模拟学会了走路。现在把它放到现实世界中，让它自己行走。

几年前这样做的时候，ai 即人工智能正处于需要人类的帮助来实现可视化的阶段。我们需要教它拉伸和力学，告诉它有多少马力等，给它提示。但现在，没有高效智能系统来实现我曾经展示的跨越式发展以后，我们可以做得更好。 

这是最近开发的机器人，它是一个简单的机械臂，具备一些马力，但是我们并未给它任何有关身份和行为的提示。它开始像婴儿床里的孩子一样四处乱动，很明显它生成的自我形象与现实毫无关联。但大约一天后，它的自我形象，就是这部分黑灰色画出来的部分，也已基本成型。它可以从中学习如何完成简单的指令。

它现在面临的挑战是自我形象比较复杂而且不够明确，要想进行提取并改善难如登天。这就像是，我很难进入你们的大脑中，并准确地理解你们是如何看待自己的。创建可视化自我形象非常难，但如果没有自我形象，这个机器人就会突然执行新的指令。因为它是在自己的想象中，而不是在现实中进行学习的。这一点非常重要。现在你可以看着这个机器人，说：“等等，我可以对它编程，完成这类任务。”这并不难，但要牢记机器人不仅学会了自己做这件事，它还学会了如何在自己创建的模拟环境中完成这件事。我认为这两个点将引导我们探索自我意识。 

为了检测这个机器人 ，我们把它拆解了，这听起来有点残酷。然后我们用另一个弯曲的部件进行替换，也就是这个标红的位置。通过我们的观察，机器人很快意识到自己的身体不太对劲，它对自我形象的预测与现实不符。“肯定是某个步骤出错了，我需要学习。”所以它重新学习。只花了短短半天的时间，就适应了新的自我形象，然后继续执行任务，仿佛什么都没发生。 

给大家看一些数据，这张图展现了两个机器人的性能，一个有软件模型，另一个没有。可以看到在数据等量的情况下，确切来说，能够自我模仿的机器人能以更快的速度学到更多的东西。事实上，在物质世界中学习的机器与强化学习的机器之间的差距体现在，与一台不常使用数据来创建自我形象的机器学习相比，今天所有最先进的技术的学习速度是该机器的千分之一，或者说需要高于该机器所需一千倍的物理试验进行测试。

我认为这种差距就是自我意识的进化起源，这种进化可以快速分析出：像人类一样复杂的机器需要能够模拟自身的未来。因为只有这样才可以完成更多的事情，不需要成本，不承担风险，不花费时间就可以在现实世界进行尝试。

事实证明这种差距及优势与系统的自由度成正比。系统越复杂，他们的自我意识就越强，所以进化赋予人类的可视能力也许就是最好的礼物，因为人类可以借此做到其他生物做不到的事情。

那我们现在在研究什么？我们采用了与这款机器人相同的工作机制，将其投放到其他类型的机器人身上，不论速度、硬度、大小如何。我们尝试将其安装在便于获得的系统上，观察它们的模仿过程，因为有些系统几乎不可能通过传统流程来模仿。

还有一个有趣的现象是：我们现在的研究目标不仅是机器人的自我模仿过程，还包括它们如何模仿同类。当做到这一点时，机器人脑海就会形成这种意识。人与人之间也存在这种互动，每一个人都在思考和模仿其他人在做和思考的事情。而模仿人类和同类的能力，是机器人之间开启社交互动的起点。

刚刚讲的大多都与思维和心理稳定性有关，现在聊一聊物质稳定性。人类的身体不仅有强健的精神，还能够治愈、恢复和成长。今天你看到的大多数机器人都是由单片部件用螺栓连接起来的。如果其中一个部件坏了，机器人也就报废了。我们想知道是否能做出可以自行恢复结构并治愈的机器，所以进行了这个实验。

实验中的机器人将不再由单片部件结合而成，而是由数不胜数的细胞构成，我们称之为粒子机器人。为了与传统的单片机器人进行区分，可以看到这个简单的粒子机器人由大约6个粒子组成，可以相互协调移动。哪怕有一部分坏了也不会影响整体运作。

这个机器人尺寸更大，由10万个粒子模拟而成。你可以看到机器人在向前移动。事实上，即使20%的粒子已经死亡，这台机器仍能继续前进，就像人体细胞虽然经历繁殖、死亡、分裂等活动，身体也一直在新陈代谢。所以我们的目标是制造出能基于该结构将粒子组合在一起的机器人。比如那边的石头，它是由许多粒子通过其中一个步骤组装而成。

所以，畅想一下未来的机器人不再是单片机器人。我们并不制造机器人，坏一个销毁一个。相反，我们制造的机器含有大量的粒子。当一台机器坏了，另一台机器就会将这些部件从报废的机器人身上取下，用来制作改善后的机器人，这就是生物学的原理。

生物之间就是一种循环，人类周而复始地吸收蛋白质和氨基酸，我们必须想个办法让机器人也做到这一点。这就会牵扯出许多道德问题。这样的研究方向正确吗？这是我们想要的结果吗？这样会产生恶劣的反应吗？或者，这是一项振奋人心的研究吗？至少我非常激动，因为在我看来利远大于弊。

想象一下，全世界的无人机、无人驾驶车、智能工厂、智能城市的自动系统几乎都有自我意识，它们可以自行管理、自我修复并提升，毕竟这是我们一直以来的研究方向。自动系统越来越多，作为人类想要继续维持这些系统的运行有些吃力。因为庞大的工作量，这些系统难以进行编程，我们不得不将自然进化赋予给人类的天赋植入这些机器人，让它们具有可视能力，能对外界做出反应、适应环境、自行修复。这将成为高光时刻，也是我的最终目标。

我年轻时总想知道，有生之年是否能看到智慧的外星生物。我还记得自己读过的所有与ufo、百慕大三角这类异闻有关的书籍，希望能看到智能领域未来的发展。也许这可能发生在其他演讲者提到的宇宙万物中，人类提升了他们出现的可能性。我在有生之年恐怕是见不到这些外星生物了，但是我会看到一种“智能物种”。这些“智能物种”将起源于人类，并发展自人类。非常感谢！