未来,人类与AI将“共生自主”?

回复 星标
更多

未来,人类与AI将“共生自主”?

3343116

时值年末,美国科技网theverge.com对科技行业多位具有影响力的精英人士进行了采访,并于日前重磅推出了“五年后的世界”访谈系列。本文是其中一篇,受访者为卡内基梅隆大学机器学习系主任曼纽拉·维洛索。

到2021年,日常软件将更加智能和强大,在越来越多的工作中取代人类。我们该如何自处?

有些人预测,人类将遭遇“失业潮”,人类与人工智能(AI)之间将全面开战,但有些人则对未来更为乐观。作为卡内基梅隆大学机器学习系主任,曼纽拉·维洛索(Manuela Veloso)教授设想,未来人类和AI将密不可分,二者在信息和目标的持续交换中形影不离,她称之为“共生自主”。按照维洛索的设想,人类施为和自动化辅助将难分你我,无论是人类还是软件,离开了彼此都将不堪大用。

维洛索已经在卡内基梅隆大学里测试这个想法。她在打造一种名为“Cobot”的步行机器人,形状看起来像平衡车,能够自己陪同客人前往另一处地方,并在遇到困难时向人类寻求帮助。这是看待AI的一种新方式,或许可以在未来五年中产生深远影响。

我们采访了维洛索,谈到了机器人、自主性编程以及AI给人类带来的挑战。

3343116

采访内容如下:

自动化是过去五年里的一大趋势。与此同时,我们已有的工具变得更加智能,比如手机和电脑。您认为未来五年,这个过程将发展到什么程度?

维洛索:我相信未来人类将与AI系统共存,它们有望服务于人类。AI系统将包括处理数字世界的软件系统、现实世界中的交通工具,比如无人机、机器人和自动驾驶汽车,以及处理现实世界的系统,比如物联网。

现实世界中也将拥有更多的智能系统,它们不仅会出现在手机和电脑上,还会出现在我们周围的各种设备上。它们能收集和处理现实世界的信息,帮助我们做决策,包括深入了解现实世界。随着时间的推移,AI系统还将帮助我们解决更广泛的社会问题,比如管理大城市的交通,做出关于气候的复杂预测,以及在人类进行重大决策时提供支持。

目前,某些AI系统似乎令人感到不安。当某种算法或某个机器人做决定时,我们并不总是明白它为什么会做出那样的决定,这也使它很难赢得我们的信任。技术人员如何解决这个问题?

维洛索:我希望这些机器能够自己作出解释,对它们的决定进行说明,使人们了然于胸。这是我正在做的一件事。我们开展了很多研究,目的是让人类或用户可以询问AI系统。当我的Cobot机器人迟到时,我可以问它“你为什么来晚了?”或者“你走的哪条路?”

我们正在研究AI系统在学习和改进时自己作出解释的能力,希望它们能提供详细程度各异的解释。我们希望,与这些机器人的互动方式可以让人类最终更加信任AI系统。你可能想问它“你为什么那样说?”或者“你为什么推荐这个?”提供这样的解释是我目前的一个研究方向,我为此做了很多工作。我相信,如果机器人能做到这一点,人类将会更加理解和信任AI系统。最终,通过这些互动,人类也将能够纠正AI系统。我们也在试图整合纠正机制,让AI系统从人类的指令中学习。我认为,人类若想与AI系统共存,这是一个重要部分。

在您看来,现在AI系统为什么会发展得如此之快?过去50年的AI研究中,是什么阻碍了我们?

维洛索:要知道,想让AI系统明白什么是手机、什么是杯子或者一个人是否健康,这需要知识的积累。早期的很多AI研究其实就是在获取这些知识。我们不得不求助于人类,求助于书本,把信息手动输入电脑。

神奇的是,过去几年里,越来越多的信息实现了数字化。似乎整个世界都被搬到了网上。所以,现在的AI系统涉及的是可用数据,以及处理和分析数据的能力。在这方面,我们仍然在寻找最佳途径。我们对此非常乐观,因为我们知道数据就在那里,等待我们去挖掘。

现在的问题是,我们如何从数据中学习?如何使用它?如何表达它?如何研究数据分布?如何把所有这些部分结合起来?为此,我们有了深度学习、深度强化学习,有了自动翻译系统和足球机器人。这些东西之所以成为现实,是因为我们能更加有效地处理所有这些数据,不必费时费力地获取和表示那些知识。知识就摆在那里。

个人虚拟助手在过去五年里取得了长足的发展,比如Siri和Alexa,二者都采用了机器学习技术。您认为,未来五年中,这些系统将如何发展?

维洛索:我是Alexa的忠实粉丝。我家里就有一个,我能和Alexa谈论的话题已经变得更加广泛。起初,我只能问它“天气怎么样?”现在,我可以问它“我有什么日程安排?”Alexa在不断学习,我也在了解Alexa能做什么。对于它今后的表现,我充满期待。

给你说件有趣的事。我出门的时候,对Alexa说“停止。”我想让它停止播放音乐,因为我要走了。但如果我对它说“我要走了。”它并不知道“我要走了”其实就是要它停止播放音乐。我必须明确地说出“停下”才行。所以,我希望个人虚拟助手可以更好地理解人类的指令。这样的指导性命令将成为人们的研究课题。

您认为,将来我们可不可以问个人虚拟助手这样的问题,比如,“我车上的发动机检查指示灯亮了,我是不是应该检查一下?”或者“我刚刚获得了这个工作机会,我应不应该接受?”

维洛索:或许可以。这类问题属于决策问题。假设你不知道该选哪份健康保险,你可以在睡觉前对Alexa说,“帮我看看这些健康保险计划,或者我能买的这些汽车,又或者我孩子能上的这些学校”,然后它会为你通宵制作一份报告。

网上已经有了很多相关信息。既有学校的介绍,也有旁人对学校的评价,还有关于学校或者其他选择方案的文章。AI系统会收集这些学校的特点,比如它们离你家有多远,得到了哪些评价等等。你可以输入你的要求,AI系统会按照要求进行筛选。它们能检索特征,从过往经验中学习,处理和分析所有可用信息,并在你的指引和询问下,以一种更便于你理解的方式呈现那些信息。由于网上信息太多,有时你无法即时处理好所有信息。

最后,你可能还希望个人虚拟助手能告诉你,它为什么会给你那些建议。你也许会问“你为什么推荐买那辆车?我真的不喜欢那个牌子。”让AI系统在决策过程中为人类提供支持,把所有信息结合起来并从中学习,接受人们给出的反馈,我认为这是非常重要的一步。

除了个人决策以外,那些系统还可以干什么?

维洛索:还可以用于学术论文。学术论文有很多,现在都被放到了网上。你可以想象这样一种AI系统,它能帮助研究人员消化所有那些信息,并寻找与他们研究方向有关的论文。

将来,AI系统仍然是网络信息的产物。很多人正在研究网上的信息,不管是文字、图片、流程图还是表格,他们试图理解这些信息,最后推断出需求。例如,机器学习的一个领域名叫“主动学习”,这种技术可以推断出某个学习过程所需要资料不够,可能需要添加更多的同类资料。

按照我的设想,AI系统能够判断缺少哪些学习资料,能够把网上的所有信息点连接起来,并在必要时请求获得更多数据。它会问研究人员,“如果你告诉我更多关于这些细胞如何与这种化学品相互作用的信息,我就能建立更好的模型。”

3343116

这种设想就是我们在Cobot身上看到的共生自主,对吧?如今,这些机器人在大学的校园里,穿行于楼宇之间,它们配备了景深相机、WiFi和激光雷达。它们没有手臂,因此在很多简单的导引任务上,会遇到麻烦,但在您的设计下,它们非常善于寻求帮助。

维洛索:是的,当我们意识到这些自主型机器人也有局限性时,对我们来说,这也算是一种发现。它们未必能打开世界上每一扇门,未必能理解人们说的每一句话。也许它们会变得越来越好,但我认为,人类也有局限性,比如我说话有口音,我不像其他人那样会打壁球。机器人也有局限性。

我们清楚地知道,这些机器人和AI系统的一个主要特征是,它们会识别自己不知道、不会做、不理解的事情,然后向人类求助。你能帮我按一下这个电梯按钮吗?你能帮我打开这扇门吗?你能帮我把这件东西放进我的篮子里吗?这就是我们所说的共生自主。这是一种新的思考方式,我们将拥有一种能够向人类寻求帮助的AI系统。

随着系统的规模化,共生自主将呈现出更加复杂的方式。AI系统已经能够进行无线通信、利用云端数据,并获得远程团队的协助。你可以想象AI系统与其他所有事物建立起持续不断的共生关系,不管是与网络上的其他信息、与其他AI系统,还是与人类。研发独立自主的AI系统已经不是问题,问题在于让AI系统能够知道它何时不了解状况,何时需要更多信息,何时应该用概率来思考。这种AI系统无法独自解决所有问题,但它懂得如何利用周围一切资源。这就是我的设想。

您认为,这种共生关系将如何改变我们已在使用的AI系统?

维洛索:回到之前的那个例子吧,就是让AI帮我们决定该选择哪所学校,或者购买哪种保险。我猜想,AI系统在某个时候需要的信息也许是人类之前没有提供的。AI系统可能意识到,如果知道了这个额外信息,它就可以提供更好的建议。

如果AI系统自己能够知道它们缺少了什么,这会非常有意思。它们知道,如果掌握了更多信息,如果能采取某项具体行动,比如在某家不接受网上预订的酒店订了房,那就可以让你住的酒店与你的开会地点离得更近。我认为这种能力很重要,因为我不可能知道系统做决定所需要的全部信息。

现在,只要在Uber、Google Maps或者Waze上输入目的地,就可以规划出路线。不过,Waze还会问,“你是否赶时间?是否需要为你提供最短路线?你想不想绕一下路,欣赏那里的美景?”要是个人虚拟助手知道我很喜欢兰花,或者我很喜欢某类艺术,结果会怎样?如果我稍微绕一下路,就可以参观这座出色的博物馆。AI系统在规划路线时并不知道这一点。如果它事先知道,它会安排我走博物馆那条路。

3343116

目前的很多AI系统都专门从事某些具体任务,比如识别物体,或是优化路线,但这导致能力过于单一。您认为,是什么阻碍了我们开发出一种更加通用的软件智能?

维洛索:通用型AI问题极具挑战性。我认为,现在的一些技术已经带有通用智能的色彩,比如深度学习和深度强化学习。我们也进行了大量的研究,试图理解迁移学习的概念。一种能够解决某项特定任务的算法,如何让它学会其他任务?我们对AI的了解还不够,我们不知道的事情还有很多。就算法与技术、泛化方法以及提供解释的方法而言,我们的确还处于AI发展的初期,对很多事情都一无所知。

我认为,通用型AI有一天将从各个专业化AI系统的结合中诞生,它们的结合就形成了“人工智能之父”明斯基所描述的那种“心智社会”。你可以拥有专用的算法来解决非常复杂的问题,就像赫伯·西蒙(Herb Simon)和艾伦·纽厄尔(Allen Newell)在人类刚开始研究AI时预测的那样。

对通用型AI的研究充满挑战,但也令人跃跃欲试,因为现在已经有了如此多的数据。使用数字设备的人数不胜数,他们产生了大量数据。使用电脑、手机、Alexa和Uber的人越来越多,这非常有利于我们研究通用型AI问题。我们还有很多研究要做。我们对通用型AI系统还没有一个准确的概念,但前路一片光明。

3343116

那种不确定性是否令你感到担忧?有些人担心,一旦AI超越人类智能,人类将灭亡。

维洛索:我是彻头彻尾的乐观主义者。我认为,我们对自主系统的研究——比如自动驾驶汽车和自主机器人——是对人类责任的一种呼唤。从某种意义上说,人类会不会灭亡,与AI技术本身无关。这项技术是被创造出来的,由人类创造的,不是来自外星人。它是我们自己的发现。是人类构思了这项技术,善用还是滥用,也取决于人类自己。

我相信人类将善用AI。我对此非常乐观,因为我觉得人类已经意识到,他们需要谨慎应对这项技术。我也意识到了。但最好的做法是投资教育。不要去担心机器人会不会使人类灭亡。机器人会变得越来越聪明,但我们要专注于教育,让人们了解彼此,关心彼此。关心社会的进步,关心地球,关爱自然,促进科学发展。解决所有这些问题,治愈癌症,消灭贫穷。作为可以善用这项技术的人类,我们有太多的事情需要去做。

从某种意义上说,AI的人文主义最终将使我们团结在一起。所以,我充满乐观。

2016-11-28 14:26:17更新过
新窗口打开 关闭