《人类简史》尤瓦尔·赫拉利:AI会超越人工智能,统治地球的不是人类

亿欧网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  
《人类简史》尤瓦尔·赫拉利:AI会超越人工智能,统治地球的不是人类

《 人类简史 》是以色列历史学家尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)的第一本书,但这第一本书就轰动了全球。 它带领读者探索了人类登上万物之巅的历史,被盖茨扎克伯格奥巴马等一众人物奉为最爱。

他的新书《未来简史》则探讨了人类的未来,以及人类的智能与创造力对未来构成了何种威胁。

最近,美国播客作者以斯拉·克莱恩(Ezra Klein)采访了赫拉利,与他探讨了 人工智能 (AI)的崛起、数字意识是否是数字智能的必然产物,以及这一切对人类意味着什么。

赫拉利认为, 计算机将夺走人类的工作,使人类在经济上沦为无用之物。对于这一点,克莱恩不太认同。然而,他可能完全错了,赫拉利有力地论证了自己的观点。 他们还探讨了 虚拟现实 ( VR ),以及人类在失去经济意义之后,能否躲进人工幻境之中,弥补日常生活中缺失的意义和经历。

以下为访谈内容节选:

克莱恩:两三百年后,人类还会是地球的主宰吗?

赫拉利:绝对不会了。如果你问50年后,那很难说,但如果是300年,这个问题就很容易回答了。300年后,人类将不会是地球上占主导的生命形式——如果那时候人类还存在的话。

从当前技术发展的步伐来看,人类在生态灾难或核灾难中自我毁灭,也并非没有可能。 更可能出现的情况是,我们通过生物工程学、机器学习以及人工智能,将自己升级为一种截然不同的存在形式,或者创造另一种存在形式,取代人类本身。

无论如何,两三百年后的地球主宰者和人类的区别,要比我们与尼安德特人、我们与黑猩猩的区别大得多。

克莱恩:每次听到这些AI终将战胜人类的论断,我都会想,那些绝顶聪明的人类——伊隆·马斯克们,尤瓦尔·赫拉利们,还有比尔·盖茨们——又在高估“智能”的重要性了。因为毕竟, 我们之所以能主宰地球,靠的不是分析能力,而是合作等因素。

赫拉利:要想成功,合作通常比纯粹的智力更加重要,这我完全同意。

问题在于, AI比人类更具合作性,至少是潜在的合作性。 举个很普遍的例子,现在大家都在谈论自动驾驶汽车。相对于人类驾驶,自动驾驶的巨大优势不仅体现在它更安全、更廉价、更高效,而是它们之间可以互相联网,形成一个单一网络。这一点,人类驾驶员做不到。

其他很多领域也是如此。比如医疗,人类医生有千万之众,但医生之间常常沟通不畅,若换成AI医生,那就不是几百万名不同的医生,而是一个单一的医疗网络,监测着世界上所有人的健康状况。

如果我们说话的这会儿,在遥远的廷巴克图,有AI医生发现了一种新疾病,或者新疗法,我智能手机上的AI私人医生就立刻掌握了这一信息。AI的最大优势之一就是合作,而非智能。

关于人工智能意味着什么、不意味什么,人们有很多概念混淆的地方,尤其是在硅谷这样的地方。我认为, 最容易混淆的是智能与意识。

95%的科幻电影都建立在一个错误的假设之上,即人工智能必然会发展出人工意识。他们认为, 机器人 会产生情感与感受,人类会爱上它们,或者,它们会产生毁灭人类的念头。事实并非如此。

智能不等于意识。智能是解决问题的能力。意识是感受事物的能力。

在人类和其他动物身上,智能和意识确实形影不离。哺乳动物解决问题靠的就是感受。我们解决问题离不开情感和感受。然而在计算机中,这样的关系并不存在。

近几十年来,计算机智能飞速发展,计算机意识却丝毫未见动静。我们绝没有理由认为,计算机意识的产生指日可待。其进化轨迹或许和哺乳动物迥然不同。哺乳动物的智能是在意识的驱使下,不断发展。同样是发展智能,计算机走的就是另一条路,而且,这条路与意识没有半点关系。

等待我们的,也许是一个无意识的,但是却超级智能的世界。关键不是人类会不会爱上机器人,或是机器人想不想灭掉人类。

关键在于,一个充斥着无意识超级智能的世界是怎样的? 历史上绝对没有类似的参照。

克莱恩:我觉得,这是AI最耐人寻味的地方,也是每每被忽略的地方。我们之所以去解决问题,是因为受到了感受的驱使。愤怒的感受,疼痛的感受,这些都驱使着我们。另外,繁衍的本能也受着爱与欲这些感受的调节。

不仅仅是人类文明,地球上所有动物的大部分行为,都是为了确保物种的繁衍。而涉及AI的时候,我常常在想,没有繁衍本能驱动的超级智能会是什么样子?即便它拥有某种类似意识的东西,也跟人类意识存在本质上的不同。

也就是说, AI会拥有解决问题的强大智能,但它的动机是什么?它为什么要解决这些问题?它会想解决哪些问题?

我感觉人们在讨论AI时,很多时候都是假设AI像人类一样贪婪,永不知足。它会成为最好的围棋手,但不会止步于此。它还会称霸《大富翁》游戏,还会在《吉他英雄》游戏中击败所有人。但我不明白的是, 事实果真如此吗?是什么原因导致了这样的局面?

赫拉利:可以说,在最早的AI中,这个动机是由编程人员决定的。但随着机器学习的发展,AI的走向就不好说了。它不会像人类一样产生欲望,因为它没有意识。它不会有心理活动,但会形成自己的行为模式,而这些模式将远远超出人类的理解范围。

对业内人士来说,机器学习、深度神经网络以及AI的吸引力在于,AI能以人类无法效仿或预测的方式,识别模式和做出决策。这就意味着,对于AI会朝什么方向发展,我们是无法预见的。这是危险之一。AI一旦超越人类智能,也就超越了人类的想象。

克莱恩:既然AI的发展和AI的未来都充满不确定性,你为什么如此坚信,300年后,人类就不是地球的主宰了呢?

赫拉利:不是我高估AI,是多数人都倾向于高估人类。要取代大部分人类,AI并不用多么有本事。政治和经济体系从人类那里所需要的,其实非常简单。

前面我们谈到了开车,还有诊断疾病。用不了多久,AI就会在这些领域超越人类,哪怕它们没有意识,没有情感、感受或超级智能。当代人大多都在做一些界限分明的工作,AI很容易就能把我们比下去。

如果回到狩猎采集时代,情况就不同了。你很难造出一个能够匹敌人类的狩猎采集机器人。但造一辆自动驾驶汽车,将出租车司机比下去呢?简单。或者造一个诊断癌症的AI医生,将人类医生比下去呢?也简单。

我们所探讨的是,在21世纪,大部分人类都会丧失经济和政治价值,沦为一个庞大的无用阶层。这个“无用”不是他们的母亲或孩子眼中的无用,而是对经济、政治和军事体系的无用。届时,这些体系也没有动力在人类身上花功夫了。

克莱恩:如果这种改变发生在50年、100年、150年后呢?

赫拉利:50年真的很快的,转眼间就过去了。

克莱恩:我知道,但对经济体来说,就不一定很快了。就好比1900年,美国很大一部分劳动力都在从事农业。到2000年,情况就完全不一样了。农业人口占比,以及农业劳动力的占比都变得微乎其微。

就像你刚才关于经济无用性的观点所言,我们的确将农业这些非常“有用”的工作,换成了很多客观上没那么有用的工作,就比如我的工作。这个世界需要我录播客、写文章吗?它需要你撰写有趣的著作,探讨可能出现的未来吗?也许并不需要。

在经济体中,我们擅长于创造各种各样的需求。 我们给纸张赋予意义,把它变成了钱,还把用钞票买到的东西也赋予了价值。我们成功地说服自己,葡萄汁存放的时间够长,就会变成葡萄酒,可以卖出几千美元。

将来有一天,出租车也许都由计算机来驾驶了,但我们还是可以说服彼此,我们生活中需要更多的瑜伽老师,更多的冥想老师。你仍然可以说,“这事儿计算机也能做。”但 作为人类,我们难道就找不到新的东西,并赋予其价值了吗?

这好像有点将“用处”和“价值”混为一谈了。“用处”某种程度上是参照规范所作的判断,而“价值”是一种主观性更浓的判断。什么有价值,什么没有价值,这是我们自己决定的,而且,我们也善于为自己需要什么创造借口。

赫拉利:我认为,答案分两个层面。首先,关于新就业出现的可能性,就像农场工人转战工厂,继而进入服务行业,现在又变成瑜伽老师, 其中的问题在于,人类能力基本可分为两种:体力和脑力。

过去,在农田和工厂中,机器和我们比体力,人们转而从事脑力劳动。现在,机器开始和我们拼脑力了。至于人类有没有第三种共同的能力可以挖掘,我们就不得而知了。

克莱恩:我能试举一种吗?汤姆·弗里德曼(Tom Friedman)擅长用短小精悍的语句,将各种思绪包装起来,比如他说,我们正从脑力劳动转向心力劳动。人类的能力似乎在于,人类享受与其他人类互动。我大可以让计算机教我瑜伽,但实际却没有这样做。

您就是一个很好的例子。你即将参加为期60天的禁言冥想休憩会。当然,计算机可以收集网络上的冥想信息,读取有史以来每一本冥想书籍的内容,最后打印出一份东西,然后你就能把自己关进屋子,一个人呆上60天,还不用交钱。但您不愿这样,您想和别人一起,想和其他人互动。

其实我觉得,经济体中很多工作都是如此。即便是现在,很多工作也都是无用的。从某些层面上讲,书籍跟计算机类似——书能做到的,人都能做到。我知道您在大学教书。您大可以让大家看书,但人们喜欢由老师教,喜欢有助教,喜欢和其他学生共处。 人类擅长和其他人类互动。

赫拉利: 将来,计算机读取并理解人类情绪的能力也许会产生巨大飞跃,一举超越人类。 去看医生的时候,你渴望那种人类互动的温暖体验。但医生是怎么做到的呢?无非就是解读你的面部表情、语音语调,当然还有说话内容。人类医生主要通过这三种方式,分析你的情感状态,知道你是害怕、无聊、愤怒还是别的什么。

我们还没有走到那一步,但计算机很快就能识别这些生物模式,比人类更胜一筹。 情绪并不是只有人类才能解读的神秘现象。

将来,计算机还能解读身体发出的信号,人类医生就办不到。只要在体表或体内安装生物识别传感器,计算机就能诊断出你的情绪状态,准确性胜过任何人类。因此,即便在这种情况下,AI都是有优势的。

另一点,在20世纪,丢了农业饭碗的人来到工厂从事低技能工作,这些工作也消失后,人们又转而从事服务业的低技能工作,比如收银。21世纪的问题在于,低技能工作就此消失了,针对高技能工作的再培训就变得非常棘手。如果你是出租车司机,到50岁失业了,只能转行教瑜伽,这就非常难办了。

克莱恩:这种情形还有另一个面,即产生一个无生产、超愉悦的社会。 相比于AI反乌托邦,我其实更担心VR反乌托邦。

人类一旦丧失经济意义,就会避入虚拟现实世界。 现在的VR已经非常先进,20年后就更不用说了。在您想象中,未来,我们会不会通过某种社会规模的分心机器,管理这个经济无用性问题?

赫拉利:是的, 我觉得AI取代人类还有另一个问题——不是经济问题,而是意义问题——如果你没有工作,并从政府那里领取无条件基本收入,这时,最大的问题是:你怎么寻找生命的意义?你整天都干些啥?

对此,目前最好的答案就是药物和电脑游戏。

人们会服用各种各样的生物化学制品,越来越多地调节自己的情绪,也会日益深陷三维虚拟现实之中。

在虚拟现实游戏中寻找意义并非新鲜事。这个概念由来已久。几千年前,我们就开始这样做了。只不过到目前为止,我们都管这叫做宗教。

我们大可以将宗教看成某种虚拟现实游戏:发明并不存在的规则,信受奉行,终其一生。如果你是基督徒,这样做就能加分,否则减分,及至死亡降临,游戏结束。到时候,分值够高者得以升级,也就是升入天堂。

从这个虚拟现实游戏之中,人们获得对生活的满足感,如此已有几千年之久。

只不过 到了21世纪,凭借技术,我们已经能创造出逼真得多的虚拟现实游戏。我们的技术能通过比特和脑机接口,把天堂和地狱构建出来,而不是让这些东西停留在想象层面。

本文被转载1次

首发媒体 亿欧网 | 转发媒体

随意打赏

人类简史 赫拉利
提交建议
微信扫一扫,分享给好友吧。