如果GPT-4还只是阿米巴原虫，未来的霸王龙会是什么样？| 赫拉利《智人之上》

衡宇
2025-02-28
13:31:34

来源：量子位

尤瓦尔·赫拉利/文

量子位 | 公众号 QbitAI

几乎所有人都已经发现，我们正生活在一场前所未有的信息革命之中。

但这到底是一场怎样的革命？最近这几年，太多突破性的发明如洪水般滚滚而来，以至于我们很难判断到底是什么推动了这场革命。

是互联网？智能手机？社交媒体？区块链？算法？还是人工智能？

所以，在讨论目前这场信息革命的长期影响之前，让我们先回顾一下它的基础。

本文分为三大部分，分别为：

• 我们真的了解计算机吗？
• 计算机正在塑造一个全新的信息网络
• 信息交换与数据价值

我们真的了解计算机吗？

这场革命的种子是计算机，至于其他一切，从互联网到人工智能，都只是计算机的副产品。

计算机诞生于20世纪40年代，一开始就只是个能够进行数学运算的笨重的电子机器，但计算机后续的发展速度惊人，形式不断创新，也发展出各种了不起的全新功能。

计算机的迅速发展，让人很难定义计算机的本质与功能。人类一再声称，有些事情是计算机永远做不到的，无论是下棋、开车还是写诗，但事实证明，原来“永远”也不过就是几年。

就目前而言，我们可以简单说计算机本质上就是一台机器，但有可能做到两件了不起的事情：一是它自己可以做决定，二是它可以创造新的想法。

计算机刚被发明出来的时候，当然离这种能力还差得太远，但计算机科学家与科幻小说家已经清楚地看到了这样的潜力。

早在1948年，艾伦·图灵就已经在探索是否能打造他所谓的“智能机器”；到1950年，他推测计算机最终应该能像人类一样聪明，甚至能够伪装成人类。在1968年，当时的计算机连跳棋都赢不了人类，但在《2001太空漫游》中，亚瑟·克拉克与斯坦利·库布里克已经想象出“哈尔9000”这个角色，这是一个会反叛人类创造者的超智能AI。

如今智能机器崛起，能够自己做决定、自己创造新的想法。这也是史上第一次，权力从人类转移到其他物种手中。

就智能而言，计算机超越了泥版、印刷机、收音机这些所有过去的信息技术。

泥版能够储存关于税务的信息，但无法自行决定要收多少税，也无法发明某种全新的税目；印刷机能够复制《圣经》这样的信息，但无法决定《圣经》要收录哪些文本，也无法对这本宗教经典加上新的注释；收音机能够传播政治演讲与交响乐等信息，但无法决定播放哪些演讲或交响乐，也无法创作演讲稿或交响乐。

但这一切对现在的计算机来说都已经能够做到。

过去的印刷机或收音机只是人类手中的被动工具，但计算机正在成为一种主动行为者，它能够摆脱人类的控制，超越人类的认知，主动塑造社会、历史与文化。

说到计算机所掌握的新力量，一个关键点是，社交媒体算法与印刷机或广播无线电有着根本的差异。

在2016-2017年，脸书的商业模式依赖于提升用户参与度，也就是用户在脸书上所花的时间与所做的活动（例如点赞、分享帖子给朋友）。

只要用户参与度增加，脸书就能收集更多数据，卖出更多广告，在信息市场占据更大份额。此外，提升用户参与度能给投资人留下好印象，从而有利于推高脸书股价。用户在脸书停留的时间越久，脸书就越有钱。

根据这种商业模式，人类管理者给脸书算法定了一个首要目标：提升用户参与度。

随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。所以，为了追求用户参与度，算法就做出了一个致命决定：传播愤怒。

很重要的一点是，算法本身也逃不了干系。通过反复实验，算法学到了愤怒会提升参与度，而且在没有上级明确指示的情况下，算法自己决定要助长愤怒。

这正是人工智能的典型特征──虽然它们是机器，但它们拥有自己学习与行动的能力。

在21世纪20年代初，算法已经能够自行制造假新闻与阴谋论。

21世纪10年代末发生的种种事件显示，非人类智能做出的决策已经能够塑造重大的历史事件。人类正面临着对人类未来失去控制的危险。目前正在出现一种全新的信息网络，其背后由一套高深莫测的智能决策和目标控制。

人类目前在这个信息网络里仍然扮演着核心角色，但很有可能正在被边缘化，到最后整套网络甚至可能不需要人类就能正常运作。

计算机正在塑造一个全新的信息网络

随着计算机逐渐积累了更多力量，一个全新的信息网络很可能会出现。

当然，这并不是说网络里的一切都是新的。至少在一段时间内，大多数旧的信息链还会被保留下来。而且，这个新的信息网络仍然会保留人与人的连接（比如家庭）以及人与文件的连接（比如教会）。

然而，这个信息网络还会有越来越多的另外两种新型链条。

第一种是计算机与人类的连接，计算机在人类之间充当中介，有时候甚至会控制人类。

脸书和TikTok就是两个我们耳熟能详的例子。这些计算机与人的连接不同于传统的人与文件的连接，因为计算机现在能够自行做出决策、创造想法，并深度伪造亲密关系，对人类发挥过去文件做不到的影响力。

第二种是目前已经开始出现的计算机与计算机的连接，计算机能够彼此自行互动，人类被排除在这些连接之外，就连理解其中发生了什么都很困难。

例如，谷歌大脑就尝试过用计算机来研发新的加密方法。当时的实验是要求两台计算机（代号为艾丽斯和鲍伯）必须交换加密信息，而第三台计算机伊夫则要试着去破解加密代码。

如果伊夫能在一定时间内破解加密代码，就能得到分数；要是失败，则由艾丽斯和鲍伯得分。

在经过大约15000次交流后，艾丽斯和鲍伯终于想出了一套伊夫无法破解的加密代码。这里的关键之处在于，进行这项实验的谷歌工程师并没有教给艾丽斯和鲍伯任何关于加密的知识，是那两台计算机完全自行创造出了专属于它们的私密语言。

像这样的事情也已经发生在实验室外的现实世界中了。

以外汇市场为例，这是全球外汇交易的场域，也决定了各种货币（例如欧元与美元）之间的汇率。2022年4月，外汇市场的每日交易量平均为7.5万亿美元，其中有超过90%已经直接由计算机之间的对话完成。

但究竟有多少人懂得外汇市场的运作方式呢？更不用说要了解一群计算机怎样在价值数万亿美元的交易上达成共识，又如何决定欧元与美元的价值了。

在可预见的未来，在这个全新的、以计算机为基础的网络里，虽然还是会包括我们这几十亿人类，但人类有可能在其中只是少数。因为除了人类，这个网络的成员还包括数十亿甚至数千亿个具备超智能且高深莫测的行为者。

这样的网络将与人类历史甚至地球生命史上曾经存在的一切都截然不同。

自大约40亿年前地球首次出现生命以来，所有信息网络都是生物（有机）网络。如果信息网络变成由非生物的计算机来主导，整个运作方式会相当不同，甚至超乎我们的想象。

毕竟作为人类，我们就连想象力也是有机生化的产物，无法跳出原本设计的生物戏剧。

从第一台数字计算机问世至今已过去了80年，如今改变的步伐仍在不断加快，而且我们距离发挥计算机的全部潜力还相差很远。计算机还可能继续演化数百万年，而过去80年发生的事情与即将发生的事情相比简直微不足道。

如果做一个粗略的比较，可以想象我们来到古代美索不达米亚的某个时间点，在这个时间点的80年前，才有人第一个想到用棍子在一块湿湿的黏土泥版上画上一些符号。在这一刻，我们难道能够想象未来会发展出亚历山大图书馆？甚至这样的比较也大大低估了未来计算机发展的潜力。

让我们再想象一下自己回到了早期地球（大约40亿年前）的某个时间点，在这个时间点的80年前，地球还是一片“有机汤”，并终于从中凝结出了第一个能够自我复制的遗传密码。

在这个阶段，即使是单细胞的阿米巴原虫，其细胞组织、成千上万的内部细胞器以及控制运动及营养的能力，都还只是一种带着未来风格的幻想。

在这个时间点，我们能够想象出未来会有霸王龙、亚马孙雨林，或是人类登上月球吗？

目前提到“计算机”，我们想到的仍然是个有屏幕、有键盘的金属盒子，因为这是我们的生物想象赋予20世纪最早那批计算机的形状。随着计算机不断成长与发展，它们正在摆脱旧的形态，采取全新的配置，打破人类的想象限制。

不同于有机生物，计算机在一个时间点不一定只能出现在一个地方，而能够散布于整个空间，不同的组件位于不同的城市甚至大陆。就计算机的演化而言，从阿米巴原虫到霸王龙这样的改变，可能只需要10年。

如果GPT-4还只是阿米巴原虫，未来的霸王龙会是什么样？

生物演化花了40亿年，才从有机汤演化成能够登上月球的人类；计算机可能只需要几个世纪就能发展出超智能，超智能能够放大到整个行星大小，也能收缩到亚原子级别，抑或延伸跨越整个星系的时空。

从计算机术语的混乱程度也能看出计算机发展的速度有多快。几十年前，只要“计算机”一个词就能涵括所有概念，但现在的用词还包括了算法、机器人、自动化程序、人工智能、网络或云。光是“难以判断该用哪个词”这一点就已经很有意义了。

生物包含了许多不同的个别实体，也能集合成“种”和“属”这样的分类。但如果讲到计算机，要判断某个实体到哪里结束，另一个实体又从哪里开始，以及如何准确地对它们进行分类，已经变得越来越困难。

信息交换与数据价值

对于这个以计算机为基础的网络，我们虽然无法预测在几百或几千年之后它会有怎样的长期演变，但还是能谈谈目前的演变情况，而且这种对当下的讨论可能更为迫切，毕竟无论什么层面，这个新计算机网络的兴起都会对所有人造成影响。

接下来，我们会谈谈这个以计算机为基础的网络有何新颖之处，对人类生活又有何意义。

我们开宗明义就该讲清楚的是，这个网络将会创造出全新的个人现实。信息并不等于真理与真相，而信息革命也并不会揭露事实真相。

信息革命能做的是创造出新的政治结构、经济模式与文化规范。

由于当前的信息革命的重要性远胜过往，所以它很可能会以前所未有的规模创造出前所未有的现实。

之所以有必要了解这一点，是因为目前的情况还在人类的掌控之中。虽然不知道还能持续多久，但目前人类仍有能力左右这些新的现实。

为了能做出明智的决定，我们需要了解目前正在发生的事情。我们在编写计算机代码的时候，绝不只是在设计一个产品，而是在重新设计人类的政治、社会与文化，所以我们最好对政治、社会与文化都有一定的了解。而且我们做的决定，最后也必须由我们来负责。

我们过去认为“顾客永远是对的”“选民能做出最好的选择”，但这些原则的前提是假设人们都很清楚自己身边发生了什么。他们假设，选择使用Instagram的用户都完全了解这个选择的全部后果，也认为负责监管苹果等公司的人们完全了解这些公司的商业模式与活动。他们假设大家都真正了解这个新信息网络的详情与细节，并真心送上自己的祝福。

但事实上，我们根本没那么了解。

这不是因为我们太愚蠢，而是因为科技太复杂，而且发展的速度太过惊人。我们得耗费大量心思才能搞懂许多东西，而且当你觉得自己懂了，事情已经又有了变化。

在这里，金融是个格外重要的例子，原因有二。

第一，现代金融工具完全由信息组成，所以比起创造实物对象，计算机创造或改变金融工具实在太容易了。过去讲到货币、股票和债券，它们都是由黄金或纸张制成的实物对象，但今天它们已经成为主要存在于数据库中的数字实体。

第二，这些数字实体对社会与政治世界的影响重大。如果人类不再能够理解金融体系究竟如何运作，那么对社会又会有什么影响？

以信息换信息的交易已经无所不在。

目前，每天都有数十亿人与科技巨头进行大量交易，但因为几乎没有任何金钱流动，也就无法从银行账户中看出端倪。我们从科技巨头那里得到信息，而我们付出的代价也是信息。

随着越来越多的交易采用以信息换信息的模式，信息经济的成长其实是以牺牲货币经济为代价的，最后可能连货币的概念都会动摇。

货币应该是一种被普遍采用的价值标准，而不是只适用于部分情境的价值象征。

随着越来越多的东西的价值以信息来衡量，而从货币来看却都是“免费”的，在某种程度上，如果还是只看个人或企业拥有多少美元或别的货币来判断他们是否富有，是无法反映现实的。

如果一个人或一家企业在银行里没什么钱，但拥有庞大的数据库，这个人或这家企业有可能才是该国最富有或最强大的实体。

本文整理自中信出版集团《智人之上》尤瓦尔·赫拉利（2024年9月版）， 有部分删减调整。

如果拓宽视野，看看人类的信息网络在过去几千年如何发展，我们也许可以更了解今日与未来发生的事情。

Read More