资中筠:良知、理性是人类存续必要条件

虎嗅网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  


因为ChatGPT的出现,2023年注定会是一个值得被记住的年份。《经济观察报》年终特刊就此锁定了人工智能。我们邀请了来自中国社会各界的代表人物,以书信的方式,畅谈他们心目中的AI世界和他们的所思所愿。  


他们是企业家投资人、哲学家、社会学家、音乐家、诗人、作家、医生、中学校长、公益人、编剧、导演、演员、博物馆馆长……这些表达汇成了《AI时代的人类意见》。他们或悲观或乐观,或满怀期待或心有疑问。不过我们相信,在悲观者和乐观者之间并不存在较量,足够多元和丰富的声音才能够帮助我们理解正在发生的所有。更何况,正是那些优秀的思考者和行动者对于未来的想象,在很大程度上决定着我们的方向。  


现在,让我们打开信箱,开启思想的未来之旅。第一封信是著名学者资中筠写的,以下为信件内容:


致读者:


岁末奉《经济观察报》约以书信形式写对人工智能的感想。忆起2010年应约写“岁末致友人书”,宛如昨日。而我故友凋零,不知心目中该写给谁。只能信笔遐想,致一切有耐心读的读者。


如扣除全球大疫三年,2010年至今,有效年份也就短短的十年。翻看当时各界人士60余篇文字,内容都很现实,充满忧国忧民,批判时弊,提出希望,涉及领域林林总总,而是非标准惊人地一致,目光投向同一方向,共同的强烈愿望就是兴利除弊,改革不要倒退。在各界作者中,有一个鲜明的特点,就是企业家都比较乐观,充满信心。今昔对比,为之唏嘘。另一特点是科技创新较少涉及,有一人提到智能手机,是作为“新鲜事物”的。


曾几何时,高深莫测的“人工智能”已经成为时代的象征。AI进入寻常百姓词库。几年前围棋高手败于电脑软件,震惊世界,现在已成旧闻。忽然出现似乎无所不知的“ChatGPT”可以陪人聊天、解答各种问题。每天都会出现令人惊恐的关于AI新技能的新消息,最主要是其“智”力将取代或超过人类而失控之远景,可能颠覆一切人伦秩序,人将不人。身为万物之灵的人类,自己创造的高科技将把自己带向何处?一般谈到变局的习惯用语是“百年未遇”,而现在却是“十年未遇”,变化的幅度是几何级数的加速度。而引领这变化的是几位科学怪才。


另一方面, 似乎从野蛮社会以来的传统思维还在主导某些人。 忽见硝烟四起,一场热战继以另一场热战,或以强欺弱,或以极原始的野蛮挑战现代文明,导致生灵涂炭,血肉横飞。自从有核武器以来,高科技杀人工具日益“先进”,足以毁灭人类几次。端赖持有者的理性克制,“核战争无赢家”成为共识,一直备而不用。如今却不时听到可能使用的威胁声,竟使人怀念当年“冷战”之“冷”,竟能保持这么久。现在是否终于升温至热战?理性、良知能否跑胜野蛮、疯狂?人类是否在劫难逃?


对科技与人类祸福问题的反思,非自今日始。更早的姑且不论,这个问题首先由科学家自己提出已有百年。至少在第一次世界大战之后,就有明智之士意识到这一点,以后每当出现先进武器时,这个问题都凸显出来。


经常被引用的一句科学家的名言是: “人类在还没有能够掌控自己之前就先掌控了自然,先具备了掌控自然的能力。此事将要引起不可预测的后患” 。印度圣雄甘地曾把 “没有人性的科学” 列为可以毁灭我们的事物之一。不过他走向另一极端:奉行远离工业化社会的生活方式,被认为是反科学、反现代化而不足为训。原子弹的发明和运用所引起的触及灵魂的反思众所周知,自不待奥本海默传记和电影的出现。


人类真是很奇怪的物种。号称“万物之灵”也不是浪得虚名:能够驾驭万物为我所用;为不断改善自己的生活质量发明各种神奇的物件;远古已不可考,至少在不太长的几千年中创造了如此辉煌的物质和精神文明。而与此同时,没有哪个物种像人类那样互相仇恨,自相残杀,为此耗尽心力发明出日新月异的高效、残忍的杀人工具;同时肆无忌惮地祸害自己的生存环境。


古往今来在“人”的芸芸众生中出现了多少恶魔,也出现了不少天使般的典型。不知道其他动物有没有灵魂和伦理道德,人类确实创造了整套的伦理道德律令和善恶标准,还有复杂的哲学理论。根据此标准,作恶和行善从未停止过,谁战胜谁的问题也从来没有最终答案。


一个永恒的问题是: 高科技成为作恶的手段时,科学家有没有责任? 《奥本海默》电影中当主角自责手上沾有鲜血时,杜鲁门总统说:“要说双手沾血,也是我,而不是你”。就是说,掌握生杀予夺之权的政治统治者才能决定如何使用这一手段。到目前为止,世界还是以国家为单位,即使民主国家,也是委托少数人掌握这一权力。尽管设计了种种制度限制这一权力,而科技创新与军备竞赛相辅相成始终无法停止。 


然而,科学家真的完全没有责任,完全无能为力吗?以前的姑且不论,如今已无可否认地飞跃进入AI时代,有人称之为第四次工业革命,实际并不恰当。因为整个舞台已经超越地球,与宇宙太空打交道了。


马斯克及其侪辈横空出世,每天都有惊人的新花样,使人感到似乎他们的意念和成败决定人类的命运。所以我特别关注马斯克的言行和他表现的价值观。迄今为止,似乎他还不是科幻大片中那种科学怪人,而是保持理性、心存善念、爱好和平的常人。


前一阵传言他有反犹言论,果真如此,比其他任何人同样的表现更令人担心。好在他自己已经以言论和行动加以澄清。我还注意到,他说过如果要使人长生不老,也能做到,但他不赞成,所以不做此努力。不论他是否真能做到,我十分赞成这一观点,并为此松了一口气。


试想,以目前医疗的水平,资源的分配如此不平等,如果真有古代帝王梦寐以求的长生不老药,首先享受的一定是有权有钱的特殊人群,连“终有一死”的结局都不平等了,那将是多么可怕、恶劣的社会!退一万步讲,如果此法竟然普及了,地球上都是百千岁的老人,那又该是怎样的情景!马斯克也许是在吹牛,实际办不到,但是至少他有所为有所不为,保留了良知和理性。


最近又传出OpenAI内部CEO人事之争。我对此没有资格评论,但是从所能见到的信息看,以我浅薄的认识,似乎关系到对科学发展的不同理念之争。是为发展而发展,一路高歌猛进,不计后果,还是顾及对人类现实的影响,也就是我理解的,有所为有所不为,我本能地同情后者。


当然所有这些考虑,都还是以人类为中心。跳出来看,人类之于浩瀚无垠的宇宙和亿万斯年的时间不过是寄蜉蝣于天地,渺沧海之一粟。也许整个物种与每个个体一样,就该有一定的寿命,或者到一定的时候发生变异,成为另一物种。这种变异的装置也许就藏在人自己身上。


还有一种可能,由于世界各种人群并非齐头并进,最先进的高科技手段掌握在观念还处于前现代、甚至前文明时代的人手中,其结果不一定全部毁灭人类,却可能使整个人类的创造毁于一旦,倒退到原始社会。野蛮征服文明的先例在历史上是屡见不鲜的,前人幸运的是还没有掌握当代人的高科技手段。所以无论从哪个角度讲,良知和理性都是人类存续的必要条件,自古如此,于今尤甚。


信马由缰想去,扯远了。所有这些遐想——瞎想,我在剩下不多的残年中大概都看不到。实际上,凡夫俗子如我,有关AI每天映入眼帘的信息,吸引我眼球、最感兴趣的是全方位照顾老人的机器人,可以代替日益稀缺的优质家政服务员,好像这是指日可待之事。人类命运、地球,乃至宇宙,非所能计。把目光收回到眼前切身需要,自私而短视,诸君见笑了。


资中筠

2023年12月


本文来自微信公众号: 经济观察报 (ID:eeo-com-cn) ,作者:资中筠(作者系著名学者)

随意打赏

提交建议
微信扫一扫,分享给好友吧。