陈根:人工智能恐惧症,源自人类内心的“恶”

“世界上真的有上帝吗?”科学家用颤抖的声音问道。

“现在有了。”世界上最聪明的人工智能电脑回答。语毕,一道电光闪过它的电源插头。从此,人类再也关不掉它了。

——这是在美国一档脱口秀节目上,斯蒂芬·霍金给大家讲的一个关于人工智能的故事。故事告诉我们:人类一手创造的机器人,将成为“人类最大的威胁”,甚至“终结者”。

文/陈根 微信公众号:陈述根本

近几年,关于发展还是控制人工智能的“辩论”,在科技界不断升温,矛盾愈演愈烈。甚至,一批大腕“联名上书”提倡控制人工智能的发展。这里不仅有斯蒂芬·霍金,还有微软创始人比尔·盖茨、特斯拉汽车公司与美国太空探索技术公司CEO伊隆·马斯克等。

无论基于怎样的行业发展考虑,也不管人类对人工智是否将采取控制措施,毋庸置疑的是,人工智能的发展将是一种必然的趋势。那么,人工智能发展到最后,到底会不会像大家所担心的那样,成为人类的“终结者”呢?如果预言真的成为现实,那又会是谁决定了人工智能走上这条不归路呢?

  人工智能PK人类智慧

不管你有多少怀疑,有多么不愿意承认,在将来的某一天,人工智能都有非常大的可能超越人类智慧。这我们可以从人脑与机器在“硬件”和“软件”两个维度进行比较分析:

  一、 “硬件”:生理学上的脑容量

据研究表明:人的聪明程度跟大脑容量息息相关。美国弗吉尼亚州立大学的工业和组织心理学家迈克尔·麦克丹尼尔(Michael McDaniel)曾通过影像技术测量大脑,证明大脑越大或脑容量与体表面积的比例越高的人越聪明,当然,这当中必须排除个别因大脑变异或脑积水导致增大脑容量等特殊情况;而且这个结论适用于所有年龄和所有性别群体。我们且不论该说法是否百分之百精准,有一点是明确的,那就是人的脑容量即便再大,在发展的一定时期都存在一定限度内的峰值。

在200万年前,人的脑容量大约为600毫升;到了早期直立人时期,人脑的脑容量达到了900毫升;而到了现如今,人类的脑容量可以达到1500毫升左右。在这个过程中,随着大脑的逐步增大,人类的聪明和智商呈跨跃式发展。我们有理由相信,如果给予足够长的时候,人类大脑的智慧增长还是有非常大的空间的。但是,基于目前的情况,囿固于当前的人类本身这个载体,却很难实现脑容量的无限大。

而且,从目前的现实状况来看,人类大脑面对当下海量的数据信息已经显得有点手足无措。一方面,资讯的更新速度在以人类阅读能力的几何倍数级增长;另一方面,我们的大脑在已经到来的物联网、大数据时代,已经难以招架海量的数据,更别说准确地对这些数据进行分析判断从中寻找所要的答案。这必然致使人类在发展的道路上,显得越来越迷茫且焦虑。

基于机器设备的人工智能则可以突破人类大脑的这个局限。从“硬件”容量来说,人工智能对信息数据的存储可以趋近于无穷大,当然这也是一种相对理想状态。而从记忆速度与提取效率来说,尤其在大数据的分析与测算基础上,人工智能对所存储信息的调取会越来越迅速,而且不存在“遗忘”一说。

这让我们有理由相信:单单从“硬件”方面来考虑,人工智能完全有可能比人类更聪明。

  二、“软件”:思维能力共享

  人脑除了具有信息的获取和存储能力之外,更重要的还是在所存储信息的基础上进行推理、判断、分析问题等功能,也就是我们通常讲的人的思维和主观能动性,人脑“聪明”的真正考量标准。这也是很多人争议的焦点:人工智能真的会有类似于人类的思维吗?

去年的今天,英国媒体刊登的署名安贾娜·阿胡贾的文章称,科学家已经发明出拥有思考能力的机器,可以与人类进行文本会话,其自然语言逻辑性之强,使得人类已无法分辨自己是与人类交谈还是与一个机器。而且,艾伦·图灵也曾提出,如果一台机器的“交流”能力足以让用户以为自己是在与一个真正的人互动,那么这台机器可以说是拥有思考能力。而已经有伪装成乌克兰少年的超级计算机通过了人工智能的图灵基准测试。

异曲同工,我国的“百度大脑”已经拥有200亿个参数,构造起了世界上最大的深度神经网络,已经具备了2~3岁孩子的智商。根据摩尔定律,百度大脑再继续做十年、二十年的话,很有可能就会比人脑还要聪明。因为技术的发展可以使得人的智力越来越大程度地被电脑所模仿,而融入了人工智能的电脑不仅可以达到人脑的智力,还可以具备人脑的逻辑能力。

  人工智能,人类的“终结者”?

今天,不断发展的科技水平,越来越清晰地告诉人类:人工智能超越人类智慧,即便还有相当漫长的一段路要走,但它就在未来的某一天等着我们。这从人类已经表现出来的,对于未来人工智能发展的担忧与恐惧中,也可见一斑。

去年年底,霍金在接过科幻作品接力棒的时候,就直接给出了一个警告:人工智能的发展可能意味着人类的末日。在今年的博鳌亚洲论坛上,比尔·盖茨再次提醒,“人工智能方向是对的,但不能操之过急,不要轻易进入未知的领域。”

人工智能的发展,真的会导致人类的“终结”吗?这种恶的想象,是必然的吗?其实,我觉得人类关于人工智能发展控制的需求,与其说是对机器人强大后对人类“叛变”的焦虑,倒不如说是人类对于科技发展后,人类心理所潜在的“恶”的恐惧。人类纠结于有那么一天,机器人会反抗他们的“人类”造物主,以致用他们超越人类的能力将人类赶尽杀绝。而事实上这反映出的,只是人类对自身内心深处那一股“恶”的力量的不可控。

早在1942年,科幻作家艾萨克·阿西莫夫创造了著名的“机器人三大定律”:机器人不得伤害人类或坐视人类受到伤害、机器人必须服从人类的命令、在不违背第一和第二法则的前提下机器人必须保护自己。基于此,人类与机器人之间保持着一定程度的“正能量”关系。但是,这个追求“人机和谐、社会和谐”的三大定律,更确切地说,只是人类单方面的限令,希望以此让机器人顺理成章、理所当然地做人类的奴役。或者说,人类一方面希望拥有人工智能的机器人能够非常聪明,并且帮助、替代我们完成一系列我们自身难以完成的事情;另外一方面又希望这个机器人很“老实”,永远无条件忠诚于人类的这样一种矛盾的处境。

所以,一旦有人感觉到迅速发展的高科技超越了他们的可控范畴,那么焦虑和绝望的悲观“科技恐惧”便油然而生。而这种心理,从本质上来讲,并不是来源于智能机器人的威胁,即使是,那也是基于人类设定的前提之下的想象。真正的威胁,其实还是来自于人类自身。就像《2001:太空漫游》中的HAL-9000,替人类说出了长久以来三缄其口的信仰问题:对造物主的质疑,人类是否可以反抗上帝。

  人类的明天,谁来主载?

就人工智能本身而言,更多的就像是一个人类的小孩,它的成长与变化首先取决于人类给予的环境。在影片《人工智能》中,未来世界人性泯灭,而机器男孩戴维则成为了“人性”的代表,他善良、真诚、渴望被爱。在《霹雳五号》中,Johnny5被雷击后“活”了过来,正直、幽默、热爱生命的心灵让人动容。同时,还有我们非常熟悉的哆啦A梦、阿童木以及阿拉雷等卡哇伊的机器人形象。这些都是人类的作品——“人工智能”的一种表现,它们传达的是接受于人类所传递给他们的信息。就如部分科学家所言,在未来,人工智能会成为“人类智慧的容器”;而人工智能的走向同样受到人类主观能动性的影响。

在《终结者》中,“天网”本身是一个超级武器,人类给其灌输了要消灭一切威胁的指令,它也坚决地执行了。而当“天网”发动启示录战争要毁灭人类的时候,其根本原因也是因为人类感到害怕,要永远关掉它,而这被“天网”认定为是一种威胁。在《复仇者联盟:奥创纪元》中,人工智能奥创以“杀戮”的方式,忠实地履行着创造者维护和平的意愿。因为在它看来,这手段最行之有效。

同样,在《超能查派》里,具有自我思维的机器人查派,刚被植入程序的时候就像一个新生儿,它的成长与改变无不源于环境对于“人工智能”的影响。而在这个环境中起最大作用的,就是人类。影片中,由迪恩研发控制的警用机器人很好地维护着社会治安。而结果出问题的,不是人工智能查派或警用机器人,是人类自己文森特。如果有一天,人类真的被人工智能所“终结”,那么,真正的罪魁祸首必将也是人类自己的自私、贪婪与邪恶,人工智能充其量只是一种工具和手段。

就如中国几千年文化中一直所争论的:到底是“人之初,性本善”,还是“人之初,性本恶”,或许这还将会在人工智能领域再次延续着。因为人工智能是善是恶,还是取决于人类这个环境。同样,人工智能最终是“融入”还是“叛变”人类,也取决于人类自身。我认为:与其说是人工智能对人类的生存和发展构成威胁,还不如理解为,人工智能其实是对人类人性的一种挑战。

一言以蔽之:终结人类者,必只有人类自己!

 

·氧分子网(www.yangfenzi.com)延伸阅读:

为什么说人工智能是业界下一个增长点?

人工智能真的会毁灭人类吗?

霍金:人工智能不一定是好事 或导致人类灭亡

人工智能,面临两大根本性问题

搜索引擎到人工智能的终极演进

现在创业就去搞人工智能!风投们喜欢砸钱

Facebook深度学习专家:未来的人工智能是怎样

中国脑计划紧锣密鼓,类脑计算和类脑智能研究中心成立

您可能还喜欢…

1 Response

  1. 6 月 29 日上午,清华大学研究院院长张钹院士为 CCF-GAIR 2018 主会场「AI 前沿技术」做了题为「走向真正的人工智能」(Towards A Real Artifitial Intelligence)的大会报告。

    AI科技评论按:2018 全球人工智能与机器人峰会(CCF-GAIR)在深圳召开,峰会由中国计算机学会(CCF)主办,雷锋网、香港中文大学(深圳)承办,得到了深圳市政府的大力指导,是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会,旨在打造国内人工智能领域最具实力的跨界交流合作平台。

    6 月 29 日上午,清华大学研究院院长张钹院士为 CCF-GAIR 2018 主会场「AI 前沿技术」做了题为「走向真正的人工智能」(Towards A Real Artifitial Intelligence)的大会报告。以下为张钹院士所做的大会报告全文,感谢张钹院士逐字修改。

    CCF-GAIR 2018 程序主席朱晓蕊:大家好,我们大会第一个环节的题目是「AI 前沿技术」。最近几年 AI 一直都很热,很多人都会问,这个 AI 到底能热多久?我想其中一个很重要的因素就是 AI 的前沿技术到底能做得有多么深入。因此我建议大家今天不妨仔细听听下面几位嘉宾的演讲,或许大家能从中得到一些答案。

    首先有请清华大学张钹院士为我们作大会报告。张院士是中国科学院院士、清华大学教授,现任清华大学人工智能研究院院长,张院士主要是从事人工智能理论、人工神经网络、遗传算法、分形和小波等理论研究,以及把上述理论应用于模式识别、知识工程、智能机器人与智能控制等领域的应用研究,他今天的报告题目是「走向真正的人工智能」,有请张院士。

    张钹:各位领导、各位专家,今天给我 45 分钟的时间,我讲 40 分钟,因为会议的议程已经延迟了。

    我今天要讲的中心思想就是:我们现在离真正的人工智能还有一段很长的路。为了讲清这个思想,我必须回答下面三个问题:第一,什么叫做真正的人工智能?我们的目标是什么?第二,为什么我们需要真正的人工智能?第三,我们如何走向真正的人工智能?我现在回答这三个问题。

    首先我们如何评价目前人工智能取得的成果,我们的评价很简单,针对这 5 件事:

    第一是深蓝打败人类国际象棋冠军;第二是 IBM 在电视知识竞赛中打败了美国的前两个冠军,这两件事是一种类型,后面的三件事是另外一种类型;即 2015 年微软在 ImageNet 上做图象识别,它的误识率略低于人类。还有百度、讯飞也都宣布在单句的中文语音识别上,它的误识率也略低于人类。还有一个是大家非常熟悉的 AlphaGo 打败了李世石。这 5 件事情都是机器在一定的范围内超过了人类,我们如何来评价这 5 件事?

    大家一致认为这 5 件事之所以成功,是由于前面三个因素,一是大数据,二是计算能力提高,第三是有非常好的人工智能算法。这三个因素大家都讨论得非常多了,没必要我再来说,我现在要说的最后一个因素是被大家所忽略的,这个因素是说,这所有的成果必须建立在一个合适的应用场景下。这 5 件事虽然领域很不一样,但是它们都满足完全一样的条件,或满足下面的 5 个限制,首先你必须有丰富的数据或者丰富的知识,如果这两件东西没有,或者很少,你不用来谈人工智能,因为你无法实现无米之炊。人工智能唯一的两个资源,一个是数据,一个是知识。还有确定性信息、完全信息、静态的、单任务和有限领域。这 5 个条件里面任何一个条件不满足,现在的人工智能做起来就非常困难了。

    大家想想这 5 个限制条件下的应用场景是什么样的应用场景?就是照章办事,不需要任何灵活性,这显然不是智能的核心。

    我们现在分析一下上述 5 个场景。下象棋是完全信息博弈,信息完全和确定,没有问题。其次,它遵循着完全确定的游戏规则演化,我们把这种情况也叫做静态。Watson 机器人也是这样,Watson 是什么样的对话问题呢?它为什么选择知识竞赛呢?我们知道知识竞赛提的问题都没有二义性,都是明确的,它的答案总是唯一性的。所以这样的问答对机器人来讲是非常容易的。它涉及的领域虽然比较宽,但也是有限的,包括大家觉得很玄乎的围棋,也完全符合上面 5 个条件,所以对计算机来说也是很容易的。目前计算机打麻将就不行,因为牌类是不完全信息博弈,所以比棋类要难。总之,我们对目前人工智能取得的成果要有一个正确的评价。

    目前的人工智能技术在以下领域都可以找到它的应用,它们是交通、服务、教育、娱乐等等,但我要强调是这些领域里面只有满足上述 5 个条件的事情,计算机做起来才会容易,如果不满足这些条件,计算机就做起来就困难了。大家常常关心什么样的工作会被机器所替代,我可以明确告诉大家,满足这 5 个条件的工作,总有一天会被计算机取代,就是那些照章办事,不需要任何灵活性的工作,比如说出纳员、收银员等等。在座的所有工作都不可能被计算机完全代替,但不排斥你的工作中有一部分会被计算机取代,老师、企业家等的工作不可能被计算机完全代替。

    为什么有这 5 个限制?原因在于我们现在的人工智能是没有理解的人工智能。

    我们先看符号模型,理性行为的模型,举 Watson 的例子,它是个对话系统,我们现在所有做的对话系统都跟这个差不多,但是 Watson 做得更好些,它里面有知识库,有推理机制。沃森除了专家知识之外,还有大量互联网上大众的知识,还运用了多推理机制。请看,这就是 Watson 系统的体系结构。它里面有哪些知识呢?有很多,包括百科全书、有线新闻、文学作品等等。所有的知识用纸质来表示有 2 亿页,用存储量表示达到了 4TB。它能回答什么问题呢?用它的例子来说明。第一个问题,1974 年 9 月 8 日谁被总统赦免?这对美国人来讲很好回答,同样对计算机来讲也很好回答,你用这几个关键字「1974 年 9 月 8 日」、「被总统赦免」,就能在文献里头查出来是谁,他就是尼克松。也就是说根据问题中的关键字,可以在已有的文献里头直接找到答案,这就是一般的网络检索方法。

    第二个问题,荧光粉受到电子撞击以后,它的电磁能以什么方式释放出来?我们用「荧光粉」、「电子撞击」、「释放电磁能」等关键词,也可以找到答案:「光或者光子」。这种方法就是平时网络搜索的原理,应该说没有什么智能。

    回答下面的问题就需要「智能」了,跟智利陆地边界最长的是哪个国家?跟智利有陆地边界的国家可以检索到,它们是阿根廷和玻利维亚,但是谁的边境长?通常查不到。Watson 具备一定的推理能力,它从边界间发生的事件、边界的地理位置等等,经过分析推理以后就可以找出答案,它就是阿根廷。下一个问题也属于这种性质,跟美国没有外交关系的国家中哪个最靠北,跟美国没有外交关系的国家有 4 个,只要检索就行了,但是哪个国家最靠北,没有直接答案,但可以从其它信息中推导出来,比如各个国家所处的纬度、气候寒冷的程度等等分析出来,答案是北朝鲜。

    智能体现在推理能力上。但是很不幸,现在的对话系统推理能力都很差。Watson 系统好一些,但也很有限。换句话说,我们现在的对话系统离真正的智能还很远。

    我们通过索菲亚机器人就可以看出来,索菲亚的对话是面向开放领域,你可以随便提问,问题就暴露出来了。大家在电视上看到索菲亚侃侃而谈,问什么问题都能答得很好,这里面有玄机,如果你的问题是预先提出来的,因为里头有答案,因此回答得非常好,在电视上给大家演示的都是这种情况。

    如果我们临时提问题,问题就出来了。这是一个中国记者给索菲亚提的 4 个问题,它只答对了一个。「你几岁了」,这个问题很简单,它答不上来,它的回答是「你好,你看起来不错」,答非所问,因为它不理解你所问的问题。只有第二个问题它是有准备的,里面有答案,所以答得很好。「你的老板是谁」,这个肯定它有准备。第三个问题,「你能回答多少问题呢」?它说「请继续」,没听懂!。再问第四个问题,「你希望我问你什么问题呢」?它说「你经常在北京做户外活动吗」?这就告诉我们说,现代的问答系统基本上没有理解,只有少数有少量的理解,像 Watson 这样算是比较好的。

    为什么会这样?也就是说我们现在的人工智能基本方法有缺陷,我们必须走向具有理解的 AI,这才是真正的人工智能。我这里提出的概念跟强人工智能有什么区别?首先我们说它在这点上是相同的,我们都试图去准确地描述人类的智能行为,希望人工智能跟人类的智能相近,这也是强人工智能的一个目标,但是强人工智能只是从概念上提出来,并没有从方法上提出怎么解决。大家知道强人工智能提出了一个最主要的概念,就是通用人工智能。怎么个通用法?它没有回答。我们现在提出来的有理解的人工智能是可操作的,不只是概念,这是我们跟强人工智能的区别。

    人机对话的时候,机器为什么不能理解人们提的问题。我们看一个例子就知道了,我们在知识库里把「特朗普是美国总统」这个事实,用「特朗普-总统-美国」这三元组存在计算机里面,如果你提的问题是「谁是美国总统」?机器马上回答出来:「特朗普」。但是你如果问其它有关的问题,如「特朗普是一个人吗」?「特朗普是一个美国人吗」?「美国有没有总统」?它都回答不了。它太傻了,任何一个小学生,你只要告诉他特朗普是美国总统,后面这几个问题他们绝对回答得出来。机器为什么回答不了后面的三个问题呢?就是这个系统太笨了,没有常识,也没有常识推理。既然特朗普是美国的总统,美国当然有总统,但是它连这一点常识的推理能力都没有。所以要解决这个问题,必须在系统中加上常识库、常识推理,没有做到这一步,人机对话系统中机器不可能具有理解能力。但是大家知道,建立常识库是一项「AI 的曼哈顿工程」。大家想想常识库多么不好建,怎么告诉计算机,什么叫吃饭,怎么告诉计算机,什么叫睡觉,什么叫做睡不着觉,什么叫做梦,这些对人工智能来说都非常难,美国在 1984 年就搞了这样一个常识库的工程,做到现在还没完全做出来。可见,要走向真正的人工智能,有理解的人工智能,是一条很漫长的路。

    这里介绍一点我们现在做的工作,加入常识以后,对话的性能会不会有所改善。我们的基本做法是建立一个常识图谱,用这个图谱帮助理解提出的「问题」,同时利用常识图谱帮助产生合适的答案。

    下面就涉及到具体怎么做了,我不详细说了,我就说结果,结果是有了常识以后,性能有了显著的改善,对话的质量提高了。这篇文章已经发表,有兴趣可以去阅读。

    另外是准符号模型,深度学习、神经网络主要用来模拟感性行为,感性行为是一般很难采用符号模型,因为感性(感觉)没法精确描述。比如「马」,怎么告诉计算机什么叫做马?你说马有四条腿,什么叫做腿?你说细长的叫做腿,什么叫细?什么叫做长?没法告诉机器,因此不能用符号模型。目前用的办法就是我们现在说的神经网络或者准符号模型,也就是用人类同样的办法,学习、训练。我不告诉机器什么叫做马,只是给不同的马的图片给它看,进行训练。训练完以后,然后再用没见过的马的图片给它看,说对了,就是识别正确了,说不对就是识别不正确,如果 90% 是对的,就说明它的识别率是 90%。后来从浅层的神经网络又发展到多层的神经网络,从浅层发展到多层有两个本质性的变化,一个本质性的变化就是输入,深层网络一般不用人工选择的特征,用原始数据就行。所以深度学习的应用门槛降低了,你不要有专业知识,把原始数据输进去就行了。第二个是它的性能提高很多,所以现在深度学习用得很多,原因就在这个地方。

    通过数据驱动建立的系统能不能算是有智能呢?必须打一个很大的问号,就是说你做出来的人脸识别系统甚至识别率会比人还高,但是我们还不能说它有智能,为什么呢?这种通过数据驱动做出来的系统,它的性能跟人类差别非常大,鲁棒性很差,很容易受干扰,会发生重大的错误,需要大量的训练样本。我们刚才已经说过,给定一个图像库我们可以做到机器的识别率比人还要高,也就是说它可以识别各种各样的物体,但是这样的系统,我如果用这个噪声输给它,我可以让它识别成为知更鸟,我用另外的噪声输给它,可以让它识别成为猎豹。换句话讲,这样的系统只是一个机械的分类器,根本不是感知系统。也就是说它尽管把各种各样动物分得很清楚,但是它不认识这个动物,它尽管可以把猎豹跟知更鸟分开,但是它本质上不认识知更鸟和猎豹,它只到达了感觉的水平,并没有达到感知的水平,它只是「感」,没有上升到「知」。我们的结论是,只依靠深度学习很难到达真正的智能。这是很严峻的结论,因为如果有这样的问题,在决策系统里头是不能用这样的系统,因为它会犯大错。我在很多场合讲过,人类的最大的优点是「小错不断、大错不犯」,机器最大的缺点是「小错不犯,一犯就犯大错」。这在决策系统里头是不允许的,这就显示人跟机器的截然不同,人非常聪明,所以他做什么事都很灵活,这就使得他很容易犯各种各样的小错。但是他很理性,很难发生大错。计算机很笨,但是很认真,小错误绝对不会犯,但是它一犯就是天大的错误。刚才把那个把噪声看成知更鸟,这不是大错吗?你把敌人的大炮看成一匹马,不是大错吗?但是人类不会发生这种错误,人类只会把骡看成驴,但是计算机的识别系统会把驴看成一块石头。原因在哪儿?原因还是 AI 的理解能力问题。

    我们看这个自动驾驶,过去讲得很多,而且讲得很乐观,我们看看问题在什么地方。我们现在是这样做,我们通过数据驱动的学习方法,学习不同场景下的图象分割,并判别是车辆还是行人、道路等,然后建立三维模型,在三维模型上规划行驶路径。现在用硬件已经可以做到实时,请问大家,这样能不能解决问题?如果路况比较简单,行人、车辆很少,勉强可以用。复杂的路况就用不了。什么原因?非常简单,好多人总结出这个经验,行人或者司机都会有意无意破坏交通规则,包括外国人也一样,中国人更严重一点。这就使得数据驱动方法失效,比如说我们可以用数据驱动方法来了解各种各样行人的行为,我们可以通过大量进行训练,都训练完以后,如果出现新的情况呢?计算机能理解这是人从底下钻过来,很危险吗?所以你不可能把所有情况都训练到。自动驾驶不可能对付突发事件,如果这个突发事件它没见过,它就解决不了。怎么来解决这个问题呢?实际上就是要解决从「Without」到「With」理解的问题。人工智能现在有两种基本方法,一种是用符号模型来模拟理性行为,符号模型可以表达信息的内容,所以它是在一个语义的符号空间里头,但是非常不幸,这个离散的符号表示,数学工具很难用,很多数学工具用不上去,所以它发展很慢。在模拟感性行为的时候,我们用的是特征空间的向量,向量就是数,可以把所有的数学工具都用上,优化的工具、概率统计的工具全部用上。所以数据驱动方法这几年发展非常快,再难的问题,下围棋非常难吧,计算机也可以「算」出来。但是它有一个非常大的缺陷,它是在特征空间里,缺乏语义。我们用数据去训练一个模型,所谓「黑箱学习法」,加上你的数据质量不高,很难学出有用的东西。什么叫概率统计?重复多了就是真理。如果数据质量差,充满了「谎言」。谎言重复多了,就变成真理了。

    我们现在想出的解决办法是这样的,就是把这两个空间投射到一个空间去,这个空间叫做语义的向量空间。也就是说我们把符号变成向量,同时把特征空间的向量变成语义空间的向量。怎么做?一是通过 Embedding(嵌入)把符号变成向量,尽量保持语义不变,可惜现在的方法都会引起语义的丢失,我们只能在投射的过程中让语义丢失得少。第二方面做的工作比较少,就是 Raising(提升),把特征空间提升到语义空间去,这主要靠学科交叉,靠跟神经科学的结合。只有这些问题解决以后,我们才能够建立一个统一的理论,因为过去的感知和认知是不同的处理方法,大家说不到一块,如果我们能够投射到同一空间去,我们就可以建立一个统一的理论框架,这是我们的目标。在语义空间处理就可以解决理解问题,但是这项工作是非常艰巨的。

    介绍一项我们现在做的工作。人工神经网络为什么不能得到语义信息呢?人脑的神经网络为什么可以呢?差别就在这里,我们现在用的人工神经网络太简单了,我们正想办法把脑神经网络的许多结构与功能加进去,我们这里只用了「稀疏发电」这一性质,就可以看出一些效果,人脸、大象或者鸟的轮廓,神经网络可以把它提取出来。

    还有一个办法就是把数据驱动跟知识驱动结合起来。刚才讲了,人的智能没法通过单纯的大数据学习把它学出来,那怎么办?很简单,加上知识,让它有推理的能力,做决策的能力,这样就能解决突发事件。我们现在做的工作就是把这些结合起来,这是我们的基本思路,知识也好,数据也好,都投射到同一空间,然后都用同样的数学方法进行处理,这方面我们已经做了不少工作。

    最后做一个总结,我们从这个坐标看人工智能,横轴代表领域的宽窄,从单领域到多领域、到开放领域。纵轴代表信息的确定性与完全性,从完全到不完全、从确定到不确定。在左下角代表最容易的,就是刚才讲的符合 5 个条件的,现在人工智能在这部分解决得非常好,我们用白色来表示它,AlphaGo 在这里,深蓝在这里,工业机器人在这里。现在我们正在向灰色地区去走,打牌,信息不完全,现在打德州扑克,一人对一人,计算机能战胜人类,多人对弈,计算机还不行,这是灰色地带,我们还可以做,为什么可以做?尽管打牌是不确定的,但是它在概率意义下是确定的,你拿的这副牌的概率,可以算出来,同花的概率是多少,排成顺的概率是多少,既然概率能算出来,最终人类肯定会被计算机打败。Watson 在右边,它的领域比较宽,但是它是确定性的,所以是在灰色的区域。往右上方去就比较难了,自动驾驶、服务机器人、大数据分析,它是一个大框,有的简单,有的困难,就自动驾驶来讲,专用道、行车很少,路况简单等,在白色或者灰色区,如果路况复杂就到了黄色区域,黄色区现在计算机还解决不好。最远的在哪儿呢?右上角,图灵测试。大家对图灵测试有很多误解,其实图灵测试是开领域问答,很难!索菲亚做得怎么样?很糟糕。自然语言理解也在这里,复杂环境下的决策在偏左一点的地方,这也是很难的。所以我们人工智能现在是从左下角往右上角走,我们现在处在出发点附近。有的人想把它用一些名词来区分人工智能的不同发展阶段,有专家问我,你的看法怎么样?我建议不要用新词,用新词往往说不清,很麻烦,有的人说现在是弱人工智能,以后是强人工智能,也有人说现在叫增强智能(Augmented Intelligence)也是 AI……概念太多说不清,还是简单一点,「我们正在通往真正 AI 的路上」,现在走得并不远,在出发点附近,人工智能永远在路上,大家要有思想准备,这就是人工智能的魅力。大家为什么这么重视人工智能?因为我们永远在路上,这就吸引我们去解决这些问题,这些问题一旦解决了,人类的社会进步、人类的生活就会发生本质上的改变。

    最后我用中文写最后一段作为总结,可惜我翻译不了。

    周穆王西巡狩,路遇匠人名偃师。翌日偃师谒见王,偕来一个假人。「趋步俯仰,信人也」。「领其颅,则歌合律;捧其手,则舞应节。千变万化,惟意所适。王以为实人也,与盛姫内御并观之,技将终,倡者瞬其目而招王之左右侍妾。王大怒,要杀这个偃师。偃师大慑,立剖其倡者以示王,皆傅会革、木、胶、漆、白 、黑、丹、青之所为。穆王始悦,诏贰车载之以归。

    这是 3000 年前我们古人对机器人的想象,看看现在的人工智能做得怎么样呢?索菲亚是我们现在达到的水平,可是她不会唱歌、不会跳舞,只会说英文,周王也听不懂,肯定没有印象。现在我们假设索菲亚「瞬其目而招王之左右侍妾」,向周王的姨太太们送去秋波,王会如何呢?我认为没反应,因为索菲亚是女的,他用不着吃醋。但是我们假设索菲亚「瞬其目而招王」,向大王送去秋波,王会大悦,立即神魂颠倒,坠入爱河?我认为不会,因为索菲亚根本不像人,它最近才刚刚安上手脚,走路都不利索,怎么行呢?所以我的结论是,「索菲亚通不过穆王的测试,当然它更通不过图灵测试」。

    我们的结论是什么?人工智能刚刚起步,离真正的 AI 还很遥远,大家共同努力吧,我们任重道远。

发表评论

邮箱地址不会被公开。 必填项已用*标注

您可以使用这些HTML标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>