专访人类简史作者尤瓦尔:面对算法全面入侵,人类能否免遭淘汰?



一本历史著作,既不讲权术计谋,也不谈宫斗秘辛。它凭借什么在中国登上了畅销书榜?

尤瓦尔·赫拉利的答案是,“认清你自己”。这位来自以色列的历史学家,分别于 2014、2017 年在中国出版《人类简史》、《未来简史》两本著作,重新燃起了中国人对于自我认知的好奇心。

前者着眼人类进化史,从历史、社会、政治、经济层面研究人类立足于地球的根本。后者则放眼未来,探讨在计算机、生物工程更为发达的明天,人类社会将何去何从。为了适应未来社会,我们又应该做些什么。

“认清自己”,原本是一句刻在阿波罗神庙上的箴言,在 21 世纪已经成为了人类最重要的课题。这并非是自恋式的欣赏,而是一个人只有充分理解自身优势时,才能将其充分发挥,否则就会如赫拉利在访问中谈到的那样,被算法纳入范式中加以奴役。

可以预见的是,未来的人机关系,将会是一场持续的 “猫鼠游戏”。人类作为鼠,拼命地逃避被机器算法捕获、预测,乃至控制。

近日,在造就组织的一次访谈中,尤瓦尔详细谈到了他对人类过去、现在和未来的看法,以及在 AI 时代我们应该如何 “升级” 自己,以赢得这场与机器之间的战争。以下为经过整理后的访谈文字:

昨天

只有人类才会相信:“给我一根香蕉,你死后就能上天堂。”

Q:你在《人类简史》这本书中提到的最重要的一个概念就是 “虚构故事”(fiction),智人得以区别于其它人种的关键正是虚构故事的能力,而智人社会正是建立于共同信仰的虚构之上。

你对虚构的定义也与大多数人理解的不太一样,不仅局限于宗教信仰,更涵盖了从金钱到政府的现代社会中诸多常见概念。这一理论是从何而来? 如你所说,虚构在智人演化史上已成为不可或缺的一环,那么如果历史可以重来,或者存在另一个平行宇宙,你认为虚构还有如此的重要性么?

尤瓦尔:我对于虚构的理解基于科学研究,同时也受到冥想的影响。冥想使我能够区分现实和人类大脑建构出的虚幻故事。不过我想强调的是,虚构对于所有人类社会来说都是至关重要的。

如果没有那些长期信念 —— 比如人类对于天堂的观点 —— 很难想象大规模的人类社会如何能运转起来。我们应该保留那些有用的虚构,同时学会区分虚幻与现实。在历史长河的大多数时间里,人们已经太过习惯于虚幻的故事,比如国家、比如神、比如金钱,以至于无法分辨出真正的现实。

生活于公元前三千年的埃及人,在法老陵寝上刻下了太阳神——拉

如何分辨什么是虚构,什么又是真实的现实?最好的测试是痛苦 (suffering)。如果你想知道一件事是否是真的,问问自己:“它会感到痛苦么?”

宙斯的神庙被烧毁的时候,宙斯没有遭受痛苦。银行破产的时候,银行没有遭受痛苦。国家在战争中受挫时,国家并没有遭受痛苦,真正遭受痛苦的是国民。投资者在股灾中失去所有财富的时候,他遭受了痛苦。母牛被迫与其新生的幼崽分离的时候,它遭受了痛苦。这才是现实。

痛苦也可能来源于我们对虚构的信仰。比如,对于某一国家或宗教的信仰可能引发战争,而战争的结果是不计其数的家破人亡。战争的原因是虚构的,但痛苦是 100% 真实的。这也是为什么我们需要努力分辨哪些是虚构的故事,哪些是真实的现实。

虚构故事很关键。如果没有诸如金钱、国家、公司等等人类虚构出的故事与规则的话,复杂的人类社会肯定无法运转。然而这些故事都只是工具而已。不要让这些工具成为我们的目标或尺度。如果我们忘记这是虚构故事的话,我们也会看不清现实。

Q:在地球的历史中,智人所扮演的角色可能并没有我们想象的那么重要。在我们之前,其他物种曾经占领过地球。在我们之后,也可能会有其他物种取代我们。你认为智人与其他物种相比,最为独特的是什么?和你刚提到的虚构能力有关吗?

尤瓦尔:是的。和之前的物种相比,人类当然有独特之处,但这种独特并非大多数人想象的那样。我们经常会观察自己和其他动物,比如黑猩猩的不同。

如果把一个人与一个黑猩猩,或者十个人与十个黑猩猩丢到竞技场里,最后能生存下来的肯定是黑猩猩。然而如果是一千个人与一千个黑猩猩 PK,最终的赢家必然是人类。人类真正的优势是可以进行大规模、灵活的合作。

蚂蚁和蜜蜂可以大规模合作,但它们的合作模式非常固定。黑猩猩和狼也可以灵活地合作,但只限于小型的群体,彼此互相了解。把 10 万个黑猩猩扔到华尔街,天下大乱。但换做是 10 万个人,我们就有了交易网络。这就是为什么人类征服了地球,而黑猩猩被关在动物园和实验室里。

既大规模又灵活的合作,只有人类可以做到。是什么让我们做到这一点?答案是我们的想象力。人类的天性中,并没有倾向于大规模合作的本能。我们之所以与陌生人合作,是因为只有这样,我们才能使那些存在于大脑中的虚构体,比如神、国家、金钱、人权等概念,扩散给上百万的人。当这么多人都相信同一个故事时,他们就会遵循一样的法则。

黑猩猩做不到这一点。你不可能告诉它们:“给我一只香蕉,你死后就能上天堂,并可以享用无数的香蕉。” 只有人类可以创造、相信这样的故事。如此我们才可以统治世界。

对于未来,我们还不知道在智人之后会是什么物种统治地球。一旦生化科技、 AI 可以改造身体与大脑,我们的欲望、偏好就可能会改变。我们可以预测像自己一般的人类将如何使用生化科技,却无法预测与我们不同的物种会如何对待科技工具。

Q:你曾提到过,人们可能会乐见自己成为数据的整合体 (如血压、每日行走步数等),那你觉得数据也是虚构么?

尤瓦尔:大数据算法赋予人们强大的新权力。问题在于,人们要如何使用这些权力?科技本身不会告诉我们如何行事,答案通常在于人们所相信的虚构。即使大家都会使用人工智能或生物科技,犹太人与穆斯林或者印度人的使用方式也会有所不同。

事实上,虚构的影响力可能还会不断增强,因为它会控制更加尖端、日益进步的科学技术。过去,人们只是想象死后会进天堂;而未来,人类有可能利用生物科技和人工智能真的建造出天堂。而关键问题在于,你想要什么样的天堂?

今天

人们正用自己最为宝贵的资产——数据,来换取免费邮箱和猫咪视频

Q:你刚才提到,数据有可能成为主宰人类命运的终极武器。如果数据足够多的话,Google 和 Facebook 会比人们更了解他们自己,从而得以操纵人类行为,成为新时代的君主。你觉得如 Google 和 Facebook 这样的科技巨头会成为智人历史上最具影响力的实体么?如果是的话,是否有破解之道?

尤瓦尔:目前来看,以 Google、Facebook 为首的科技公司,通过垄断人们消费的信息实现了控制我们的结果。这意味着它们有权力定义什么是真实的、什么是重要的:任何出现在我 Facebook 主页或者 Google 搜索结果首页的东西都是重要的。

然而长远来看,这些科技巨头真正的权力在于其从我们身上收集来的数据。在不远的未来,他们可能会积累到足够庞大的数据以及足够优秀的算法,乃至能直接入侵人性、重组人类社会甚至控制生命本身。

我们生活的时代已经不是电脑会被入侵的时代,而是人类会被入侵的时代。当人们穿戴上各种传感器,使得科技公司可以全天候从人体获得各种数据的时候,颠覆的时刻就已经不远了。

有了足够的数据,这些科技巨头 (包括私人公司以及政府机构)便可以创造出比我们自身更了解自己的算法,并因而能够操纵我们的决定及行为。更为可怕的是,如果数据量足够大,他们甚至可能解码人类身体及大脑的深层机制,并因此获得建构新生命形式的能力。现在大家都知道有机体是一种生物算法,而那些能够解码生物算法的巨头,终将成为生命的主宰。

这些数据的归属权是个很关键的问题。包含我 DNA 秘密的数据是属于我,属于政府,属于一个公司,还是人类集体?占有垄断地位的一小撮精英真的有权掌控这些数据么?如果掌控了这些数据,商业公司和政府会不会创造出新的器官、新的大脑、甚至全新的生命形式?

在过去,最为重要的资产是土地、工具和劳动力。政治即是努力控制土地、工具及劳动力的斗争。而在二十一世纪,最为重要的资产是数据,而数据的控制权将变成政治争夺的焦点。恐怕很多人都没有意识到这一点,人们正用自己最为宝贵的资产——数据,来换取免费的邮件服务和可笑的宠物视频。

此时重提那句格言正是时候:“如果你没有为一件产品付费,可能你自己就是那个产品。”

Q:你曾在多个场合提到冥想对你影响重大。可否谈谈你对冥想的理解?你觉得冥想是一种适合大多数人的体验吗?

尤瓦尔:相比科技工具,冥想让我从过载的信息中抽脱出来,得以观察并思考真正重要的事情。这才是认清世界本质的最好方式。如果我没有练习过冥想,是断然无法写出《人类简史》与《未来简史》这两本书的。

我年轻的时候一直饱受困扰:为什么这个世界以及我的生命中,会有如此多的痛苦;我们要如何做才能从中解脱。大脑产生痛苦体验的机制十分复杂,以至于至今科学研究也没有给我们直接的答案。我们唯一能做的是观察自己的内心(mind)。虽然任何有过关相关尝试的人都会告诉你,这真的很难。

冥想让我认识到,我所遭受的苦难都来自于我自己的想法。当我想要某物而不得的时候,大脑就会产生痛苦的体验作为反应。这一痛苦的来源并非是真实世界。内观冥想可以教会人们客观地观察身体感受,以及内心对其反应的方法,从而解开我们最深层次的精神模式(mental pattern)。

冥想是每个人都可以尝试的事情。它并不需要任何经验,也不要要求智力超群。只不过这并非一场容易的修炼。

明天

别再相信大人,也别依赖科技,赢过AI的机遇在于情商与韧性

Q:你在《未来简史》的结尾提了三个开放问题,其中一个有关于智力(Intelligence)和 意 识(Consciousness)。你认为对人类而言,这两者哪个更重要?

尤瓦尔:首先,我们要明白两者的不同。人类靠智力解决问题,靠意识感知世界,比如疼痛、愉悦、爱、愤怒。对于哺乳动物,智力与意识合二为一——我们靠感知世界来解决问题。直到本世纪初,高等智力与意识仍然难以分开。下棋、开车、打仗、诊断疾病,这些只有拥有意识的人类才能做到。

然而今天,智力正在与意识脱离开来。上面提到的下棋、开车、打仗、诊断疾病,可以由不具备意识的算法完成,而且比我们做得更好。对于那些基于范式识别(pattern recognition)的技能,算法甚至将把人类远远甩开。

科幻电影认为,要达到或者超越人类智力,计算机必须发展出自己的意识。在这样的论调支持下,机器人不是和人类相爱,就是想把人类赶尽杀绝。但科学指出了另一种可能:达到超级智能(super-intelligence)有很多条路,只有少数几条依赖于意识的形成。数百万年来,有机体的进化仰赖于意识的进化。而无机的计算机可能会彻底避开这条窄路,更快地将智力提升到新水平。

因此,我认为意识远比智力重要。对于我而言,世界上最重要的问题仍然是快乐与痛苦的原因。什么是快乐?什么是痛苦?痛苦的成因是什么?我们如何摆脱痛苦?这些都是意识领域的问题,与智力无关。

Q:你在书中提到过,智人也是一种算法。同样是算法,人工智能在运算能力、数据存储等方面都将远超智人。那么人类是否注定会输给 AI?相比 AI,人类的优势又在哪里?

尤瓦尔:是的,人类在算法上没有优势。但如果只是讨论这种劣势,对于解决问题没有任何帮助。我们应该明白自己擅长什么,而不是贸然进入由计算机设定好规则的赛场中。

和 AI 相比,人类在提供经济价值上确实没有多少竞争力。然而在体验并理解情感、从痛苦中自我解救方面,AI 与我们没有任何可比性。

AI 每天都在进步。开汽车、诊断疾病,人类在这些领域越来越难与 AI 抗衡。但这不代表我们最终可以依赖它消除痛苦,寻找快乐。以 AI 理解人类大脑、操控情感的能力,它可能永远理解不了我们的痛苦和快乐。

在过去的几十个世纪中,人类对外部世界形成更强的控制力,凭一己之力重塑了地球的样貌。但这种征服并没有让人类感到快乐。更糟的是,由于缺乏理解,人类对于地球的改造破坏了它复杂的生态系统,也正在面临一场灾难。

到了下一世纪,人类可能能够控制自己的内心世界,重塑我们的身体与大脑。但如果人类对于自己的了解停留在目前的状况下,这种重塑不一定会让我们感到快乐,甚至会给精神系统带来灾难。

Q:你在采访中提到,在 AI 的时代,人必须紧守情商(Emotional intelligence)与韧性(Resilience),才能赢得与机器的战争。可以展开来谈谈吗?

尤瓦尔:2040 年的就业市场是什么样的?我们可以确定的是大批现有的职业会消失,但会出现什么新的工种?没有人知道。因此,我们也不知道应该教给孩子什么知识,才能让他们在二十年后保持竞争力。很有可能的是,学生今天学的知识,到了他们四十岁时会变得毫无用处。

那我们应该教给孩子什么?我的建议是专注韧性和情商的培育。在过去,人的生命被分为两个部分:前半生的主要任务是学习,后半生则是工作谋生。在学习的阶段中,人逐步塑造稳定的身份认同,学习个人、职业技能。而到了工作阶段,我们以身份认同、技能为出发点,对世界进行探索,获得财富并对社会做出贡献。

到了 2040 年,这样的模型将会不复存在。人必须将学习贯穿终生,不断自我升级(reinvent themselves),才能不被出局。因此,我们必须培养孩子这样的技能,让他们可以不断获取新知识——即便到了 60 岁,还具备升级的能力。

然而,改变是很困难的。尤其是到了一定年纪后,大多数人开始拒绝改变。当一个人 16 岁的时候,他的人生主题就是改变——身体、精神、人际关系都在升级。但到了 40 岁,他不希望改变了,而是要稳定。

但在 21 世纪,稳定可谓一种奢侈品。如果你守着一种固定的身份、职业、世界观而不变化,你就会被世界抛弃。因此,人类需要极高的韧性、情商,才能驶过这场永不结束的风暴,而不被压力击垮。

问题是,教师们对于教授数学知识很擅长,但对于情商、韧性的培育则近乎束手无策。诞生于 19 世纪工业革命的教育体系,包括读书、听课,在这一方面用处有限。可以预见的是,在 AI 时代,这种体系必将破产。

对于 16 岁的孩子,我有些建议给他们:不要轻信大人。在过去,听信他们是一个安全的选择,因为他们更了解这个缓慢前行的世界。但到了 21 世纪,一切都将不同。大人们学到的经济、政治、人际关系知识,可能已经过时了。

也不要轻信科技。让科技服务你,而不是你服务它。如果不当心的话,科技会开始支配你的意志,将你纳入它的范式中加以奴役。因此,你一定要比别人、比机器更了解自己,了解你此生真正想要的东西。正如刻在阿波罗神庙上的箴言一样,“Know thyself(认识你自己)”。

这句话已经流传了两千多年,但对于 21 世纪的人类拥有比以往更重大的意义。因为人类将进入一场巨大的竞赛:一方是独立个体,另一方则是 Google、Facebook、Amazon,甚至是利用大数据技术监视你的政府。一旦 Google 比你自己更了解你,它就可能开始控制甚至操纵你。如果你不想出局,就一定要比 Google 跑得更快。加油!

Q:你在书中提到,未来的智人有可能分裂为两个物种:一部分人可以通过尖端生物技术来改造自己或者子女胚胎,增强器官功能、减少免疫缺陷,从基因上成为更高级的智人物种;而难以负担这种改造的则会降格为低级智人。这种分裂听起来似曾相识:工业革命爆发后,社会迅速分裂为资产阶级和无产阶级,前者依赖资本以及后者作为劳动力以获得财富。

然而,21 世纪的分裂和过去会有很大不同。低级智人对于高级智人几乎没有经济价值——机器几乎可以取代人类劳动力,完成一切工作。如果人类真会面临这样的分裂,你觉得低级智人存在的意义是什么?他们可以为这个社会贡献什么?

尤瓦尔:作为历史学家,我倾向于关注那些更危险的可能性,原因有二。首先,因为商业和产业倾向于关注那些新兴科技的积极潜能,对其消极潜能的思考就自然留给了历史学家和哲学家。第二,只有关注那些有危险性的可能性,我们才可能阻止其发生。

你说的没错,21 世纪将会和 19 世纪有很大的区别。过去,无产阶级是经济的支柱。无论是民主还是独裁政府,都会在健康、教育、福利上大量投资,因为社会大众对于军事、经济都有很强的作用。即便是希特勒也会为穷人建立医院、学校、下水道系统——不是因为他善良,而是因为他知道:如果德国想强国、强军,它必须要让数百万的穷人参军、工作。

然而,随着 AI、机器人逐步取代人类的职业,许多人都将会失去经济价值。更可怕的是,一旦低级智人丧失了军事、经济价值,精英阶层与政府可能会丧失投资教育、健康、福利的动力,最终导致他们被整个系统抛弃。

这将是无与伦比的噩耗。

Q:最后可否给我们推荐几位你喜欢的作家、书籍,以帮助我们更好地了解未来?

尤瓦尔:赫胥黎的《美丽新世界》,是我认为二十世纪最具前瞻性的一本书,也是现代西方哲学对于 “快乐” 最深刻的讨论之一。

《美丽新世界》成书于 1931 年。当时的俄罗斯、意大利、德国、日本都出现了独裁政权,第二次世界大战即将打响。然而,赫胥黎透过历史的迷雾,想象了一个没有战争、贫穷、疾病的社会。人们享受无尽的和平、物资、健康。那是个消费主义的世界:性爱、毒品、摇滚乐应有尽有。社会的最高价值是快乐。

通过先进生物科技、社会工程学的运用,每个人都感到十分满足,没有反抗之心。秘密警察与集中营都失去了存在的价值。在这本书中,赫胥黎天才地揭示了对于人的控制可以通过爱与幸福的感受实现,而非通过暴力与恐惧。

这本书让人不安,因为你可以肯定的是,逻辑的一环出现了漏洞。但是在哪里呢?很少有人可以发现。世界平静而祥和,每个人都感到富足。这一切的背后出现了什么问题?

另一方面,当赫胥黎于 1931 年写作此书时,他和第一批读者都认为这本书描绘了一个危险的反乌托邦(dystopia)。然而到了 2017 年,许多读者会认为书中描绘了一个乌托邦,而我们的消费主义社会正在朝赫胥黎的设想演进。今天,快乐成为了社会最高价值。我们也开始使用生物技术、社会工程来保证公民的富足感。

你想知道这背后潜藏着哪些问题?读一下书中两位角色的对话吧,一位是穆斯塔法‧蒙德,西欧的控制者;另一位是野人约翰,他一辈子都住在新墨西哥州的 “野蛮人保留区”,却是伦敦最后一个还记得莎士比亚与神的人。

记者 | 刘思筱 季文仪,来源:造就

 

激賞明鏡
激賞明鏡 2
激賞操作及常見問題排除
推薦電視頻道

留言