人工智能最大的优势不是智能?AI统治人类是因为程序员太贪婪?

亿欧网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  
人工智能最大的优势不是智能?AI统治人类是因为程序员太贪婪?

【编者按】随着 人工智能 时代到来,关于AI是否会控制人类这个问题一直争论不休。本文采访对象赫拉利认为在3百年以后,人工智能会是地球的主宰,更可能出现的情况是,人类通过生物工程学、机器学习以及人工智能,将自己升级为一种截然不同的存在形式,或者创造另一种存在形式,取代人类本身。然而,人工智能没有意识,不会产生欲望,他的行为,是程序员决定的。

本文发于造就,作者赫拉利,经亿欧编辑,供行业人士参考。


最近,美国播客作者以斯拉·克莱恩(Ezra Klein)采访了赫拉利,与他探讨了人工智能(AI)的崛起、数字意识是否是数字智能的必然产物,以及这一切对人类意味着什么。

赫拉利认为,计算机将夺走人类的工作,使人类在经济上沦为无用之物。对于这一点,克莱恩不太认同。然而,他可能完全错了,赫拉利有力地论证了自己的观点。

他们还探讨了 虚拟现实 (VR),以及人类在失去经济意义之后,能否躲进人工幻境之中,弥补日常生活中缺失的意义和经历。

以下为访谈内容节选:

以斯拉·克莱恩(左)、尤瓦尔·诺亚·赫拉利(右)

克莱恩:两三百年后,人类还会是地球的主宰吗?

赫拉利:绝对不会了。如果你问50年后,那很难说,但如果是300年,这个问题就很容易回答了。300年后,人类将不会是地球上占主导的生命形式——如果那时候人类还存在的话。

从当前技术发展的步伐来看,人类在生态灾难或核灾难中自我毁灭,也并非没有可能。

更可能出现的情况是,我们通过生物工程学、机器学习以及人工智能,将自己升级为一种截然不同的存在形式,或者创造另一种存在形式,取代人类本身。

无论如何,两三百年后的地球主宰者和人类的区别,要比我们与尼安德特人、我们与黑猩猩的区别大得多。

克莱恩:每次听到这些AI终将战胜人类的论断,我都会想,那些绝顶聪明的人类——伊隆·马斯克们,尤瓦尔·赫拉利们,还有比尔·盖茨们——又在高估“智能”的重要性了。因为毕竟,我们之所以能主宰地球,靠的不是分析能力,而是合作等因素。

赫拉利:要想成功,合作通常比纯粹的智力更加重要,这我完全同意。

问题在于,AI比人类更具合作性,至少是潜在的合作性。 举个很普遍的例子,现在大家都在谈论自动驾驶汽车。相对于人类驾驶,自动驾驶的巨大优势不仅体现在它更安全、更廉价、更高效,而是它们之间可以互相联网,形成一个单一网络。这一点,人类驾驶员做不到。

其他很多领域也是如此。比如 医疗 ,人类医生有千万之众,但医生之间常常沟通不畅,若换成AI医生,那就不是几百万名不同的医生,而是一个单一的医疗网络,监测着世界上所有人的健康状况。

如果我们说话的这会儿,在遥远的廷巴克图,有AI医生发现了一种新疾病,或者新疗法,我智能手机上的AI私人医生就立刻掌握了这一信息。 AI的最大优势之一就是合作,而非智能。

关于人工智能意味着什么、不意味什么,人们有很多概念混淆的地方,尤其是在硅谷这样的地方。我认为,最容易混淆的是智能与意识。

95%的科幻电影都建立在一个错误的假设之上,即人工智能必然会发展出人工意识。他们认为, 机器人 会产生情感与感受,人类会爱上它们,或者,它们会产生毁灭人类的念头。事实并非如此。

智能不等于意识。智能是解决问题的能力。意识是感受事物的能力。

在人类和其他动物身上,智能和意识确实形影不离。哺乳动物解决问题靠的就是感受。我们解决问题离不开情感和感受。然而在计算机中,这样的关系并不存在。

近几十年来,计算机智能飞速发展,计算机意识却丝毫未见动静。我们绝没有理由认为,计算机意识的产生指日可待。其进化轨迹或许和哺乳动物迥然不同。哺乳动物的智能是在意识的驱使下,不断发展。同样是发展智能,计算机走的就是另一条路,而且,这条路与意识没有半点关系。

等待我们的,也许是一个无意识的,但是却超级智能的世界。关键不是人类会不会爱上机器人,或是机器人想不想灭掉人类。

关键在于,一个充斥着无意识超级智能的世界是怎样的?历史上绝对没有类似的参照。

克莱恩:我觉得,这是AI最耐人寻味的地方,也是每每被忽略的地方。我们之所以去解决问题,是因为受到了感受的驱使。愤怒的感受,疼痛的感受,这些都驱使着我们。另外,繁衍的本能也受着爱与欲这些感受的调节。

不仅仅是人类文明,地球上所有动物的大部分行为,都是为了确保物种的繁衍。而涉及AI的时候,我常常在想,没有繁衍本能驱动的超级智能会是什么样子?即便它拥有某种类似意识的东西,也跟人类意识存在本质上的不同。

也就是说,AI会拥有解决问题的强大智能,但它的动机是什么?它为什么要解决这些问题?它会想解决哪些问题?

我感觉人们在讨论AI时,很多时候都是 假设AI像人类一样贪婪 ,永不知足。它会成为最好的围棋手,但不会止步于此。它还会称霸《大富翁》游戏,还会在《吉他英雄》游戏中击败所有人。但我不明白的是,事实果真如此吗?是什么原因导致了这样的局面?

赫拉利:可以说, 在最早的AI中,这个动机是由编程人员决定的。 但随着机器学习的发展,AI的走向就不好说了。 它不会像人类一样产生欲望,因为它没有意识。它不会有心理活动,但会形成自己的行为模式,而这些模式将远远超出人类的理解范围。

对业内人士来说,机器学习、深度神经网络以及AI的吸引力在于,AI能以人类无法效仿或预测的方式,识别模式和做出决策。这就意味着,对于AI会朝什么方向发展,我们是无法预见的。这是危险之一。AI一旦超越人类智能,也就超越了人类的想象。

克莱恩:既然AI的发展和AI的未来都充满不确定性,你为什么如此坚信,300年后,人类就不是地球的主宰了呢?

赫拉利:不是我高估AI,是多数人都倾向于高估人类。要取代大部分人类,AI并不用多么有本事。政治和经济体系从人类那里所需要的,其实非常简单。

前面我们谈到了开车,还有诊断疾病。用不了多久,AI就会在这些领域超越人类,哪怕它们没有意识,没有情感、感受或超级智能。当代人大多都在做一些界限分明的工作,AI很容易就能把我们比下去。

如果回到狩猎采集时代,情况就不同了。你很难造出一个能够匹敌人类的狩猎采集机器人。但造一辆自动驾驶汽车,将出租车司机比下去呢?简单。或者造一个诊断癌症的AI医生,将人类医生比下去呢?也简单。

我们所探讨的是,在21世纪,大部分人类都会丧失经济和政治价值,沦为一个庞大的无用阶层。这个“无用”不是他们的母亲或孩子眼中的无用,而是对经济、政治和军事体系的无用。届时,这些体系也没有动力在人类身上花功夫了。

克莱恩:如果这种改变发生在50年、100年、150年后呢?

赫拉利:50年真的很快的,转眼间就过去了。

克莱恩:我知道,但对经济体来说,就不一定很快了。就好比1900年,美国很大一部分劳动力都在从事农业。到2000年,情况就完全不一样了。农业人口占比,以及农业劳动力的占比都变得微乎其微。

就像你刚才关于经济无用性的观点所言,我们的确将农业这些非常“有用”的工作,换成了很多客观上没那么有用的工作,就比如我的工作。这个世界需要我录播客、写文章吗?它需要你撰写有趣的著作,探讨可能出现的未来吗?也许并不需要。

在经济体中,我们擅长于创造各种各样的需求。我们给纸张赋予意义,把它变成了钱,还把用钞票买到的东西也赋予了价值。我们成功地说服自己,葡萄汁存放的时间够长,就会变成葡萄酒,可以卖出几千美元。

将来有一天,出租车也许都由计算机来驾驶了,但我们还是可以说服彼此,我们生活中需要更多的瑜伽老师,更多的冥想老师。你仍然可以说,“这事儿计算机也能做。”但作为人类,我们难道就找不到新的东西,并赋予其价值了吗?

这好像有点将“用处”和“价值”混为一谈了。“用处”某种程度上是参照规范所作的判断,而“价值”是一种主观性更浓的判断。什么有价值,什么没有价值,这是我们自己决定的,而且,我们也善于为自己需要什么创造借口。

赫拉利:我认为,答案分两个层面。首先,关于新就业出现的可能性,就像农场工人转战工厂,继而进入服务行业,现在又变成瑜伽老师,其中的问题在于,人类能力基本可分为两种:体力和脑力。

过去,在农田和工厂中,机器和我们比体力,人们转而从事脑力劳动。现在,机器开始和我们拼脑力了。至于人类有没有第三种共同的能力可以挖掘,我们就不得而知了。

克莱恩:我能试举一种吗?汤姆·弗里德曼(Tom Friedman)擅长用短小精悍的语句,将各种思绪包装起来,比如他说,我们正从脑力劳动转向心力劳动。人类的能力似乎在于,人类享受与其他人类互动。我大可以让计算机教我瑜伽,但实际却没有这样做。

您就是一个很好的例子。你即将参加为期60天的禁言冥想休憩会。当然,计算机可以收集网络上的冥想信息,读取有史以来每一本冥想书籍的内容,最后打印出一份东西,然后你就能把自己关进屋子,一个人呆上60天,还不用交钱。但您不愿这样,您想和别人一起,想和其他人互动。

其实我觉得,经济体中很多工作都是如此。即便是现在,很多工作也都是无用的。从某些层面上讲,书籍跟计算机类似——书能做到的,人都能做到。我知道您在大学教书。您大可以让大家看书,但人们喜欢由老师教,喜欢有助教,喜欢和其他学生共处。人类擅长和其他人类互动。

赫拉利: 将来,计算机读取并理解人类情绪的能力也许会产生巨大飞跃,一举超越人类。 去看医生的时候,你渴望那种人类互动的温暖体验。但医生是怎么做到的呢?无非就是解读你的面部表情、语音语调,当然还有说话内容。人类医生主要通过这三种方式,分析你的情感状态,知道你是害怕、无聊、愤怒还是别的什么。

我们还没有走到那一步,但计算机很快就能识别这些生物模式,比人类更胜一筹。情绪并不是只有人类才能解读的神秘现象。

将来,计算机还能解读身体发出的信号,人类医生就办不到。只要在体表或体内安装生物识别传感器,计算机就能诊断出你的情绪状态,准确性胜过任何人类。因此,即便在这种情况下,AI都是有优势的。

另一点,在20世纪,丢了农业饭碗的人来到工厂从事低技能工作,这些工作也消失后,人们又转而从事服务业的低技能工作,比如收银。21世纪的问题在于,低技能工作就此消失了,针对高技能工作的再培训就变得非常棘手。如果你是出租车司机,到50岁失业了,只能转行教瑜伽,这就非常难办了。

克莱恩:这种情形还有另一个面,即产生一个无生产、超愉悦的社会。相比于AI反乌托邦,我其实更担心VR反乌托邦。

人类一旦丧失经济意义,就会避入虚拟现实世界。现在的VR已经非常先进,20年后就更不用说了。在您想象中,未来,我们会不会通过某种社会规模的分心机器,管理这个经济无用性问题?

赫拉利:是的, 我觉得AI取代人类还有另一个问题——不是经济问题,而是意义问题——如果你没有工作,并从政府那里领取无条件基本收入,这时,最大的问题是:你怎么寻找生命的意义?你整天都干些啥?

对此,目前最好的答案就是药物和电脑游戏。

人们会服用各种各样的生物化学制品,越来越多地调节自己的情绪,也会日益深陷三维虚拟现实之中。

在虚拟现实游戏中寻找意义并非新鲜事。这个概念由来已久。几千年前,我们就开始这样做了。只不过到目前为止,我们都管这叫做宗教。

我们大可以将宗教看成某种虚拟现实游戏:发明并不存在的规则,信受奉行,终其一生。如果你是基督徒,这样做就能加分,否则减分,及至死亡降临,游戏结束。到时候,分值够高者得以升级,也就是升入天堂。

从这个虚拟现实游戏之中,人们获得对生活的满足感,如此已有几千年之久。

只不过到了21世纪,凭借技术,我们已经能创造出逼真得多的虚拟现实游戏。我们的技术能通过比特和脑机接口,把天堂和地狱构建出来,而不是让这些东西停留在想象层面。

本文被转载1次

首发媒体 亿欧网 | 转发媒体

随意打赏

阿里云人工智能小ai人工智能取代人类人工智能威胁人类人工智能统治世界人工智能超越人类人工智能统治人类人工智能消灭人类人工智能 统治什么是人工智能人工智能ai
提交建议
微信扫一扫,分享给好友吧。