如果GPT-4還只是阿米巴原蟲，未來的霸王龍會是什麼樣？|赫拉利《智人之上》

尤瓦爾·赫拉利/文

量子位 | 公眾號 QbitAI

幾乎所有人都已經發現，我們正生活在一場前所未有的資訊革命之中。

但這到底是一場怎樣的革命？最近這幾年，太多突破性的發明如洪水般滾滾而來，以至於我們很難判斷到底是什麼推動了這場革命。

是網際網路？智慧手機？社交媒體？區塊鏈？演算法？還是人工智慧？

所以，在討論目前這場資訊革命的長期影響之前，讓我們先回顧一下它的基礎。

本文分為三大部分，分別為：

我們真的瞭解計算機嗎？
計算機正在塑造一個全新的資訊網路
資訊交換與資料價值

我們真的瞭解計算機嗎？

這場革命的種子是計算機，至於其他一切，從網際網路到人工智慧，都只是計算機的副產品。

計算機誕生於20世紀40年代，一開始就只是個能夠進行數學運算的笨重的電子機器，但計算機後續的發展速度驚人，形式不斷創新，也發展出各種了不起的全新功能。

計算機的迅速發展，讓人很難定義計算機的本質與功能。人類一再聲稱，有些事情是計算機永遠做不到的，無論是下棋、開車還是寫詩，但事實證明，原來“永遠”也不過就是幾年。

就目前而言，我們可以簡單說計算機本質上就是一臺機器，但有可能做到兩件了不起的事情：一是它自己可以做決定，二是它可以創造新的想法。

計算機剛被髮明出來的時候，當然離這種能力還差得太遠，但計算機科學家與科幻小說家已經清楚地看到了這樣的潛力。

早在1948年，艾倫·圖靈就已經在探索是否能打造他所謂的“智慧機器”；到1950年，他推測計算機最終應該能像人類一樣聰明，甚至能夠偽裝成人類。在1968年，當時的計算機連跳棋都贏不了人類，但在《2001太空漫遊》中，亞瑟·克拉克與斯坦利·庫布里克已經想象出“哈爾9000”這個角色，這是一個會反叛人類創造者的超智慧AI。

如今智慧機器崛起，能夠自己做決定、自己創造新的想法。這也是史上第一次，權力從人類轉移到其他物種手中。

就智慧而言，計算機超越了泥版、印刷機、收音機這些所有過去的資訊科技。

泥版能夠儲存關於稅務的資訊，但無法自行決定要收多少稅，也無法發明某種全新的稅目；印刷機能夠複製《聖經》這樣的資訊，但無法決定《聖經》要收錄哪些文字，也無法對這本宗教經典加上新的註釋；收音機能夠傳播政治演講與交響樂等資訊，但無法決定播放哪些演講或交響樂，也無法創作演講稿或交響樂。

但這一切對現在的計算機來說都已經能夠做到。

過去的印刷機或收音機只是人類手中的被動工具，但計算機正在成為一種主動行為者，它能夠擺脫人類的控制，超越人類的認知，主動塑造社會、歷史與文化。

說到計算機所掌握的新力量，一個關鍵點是，社交媒體演算法與印刷機或廣播無線電有著根本的差異。

在2016-2017年，臉書的商業模式依賴於提升使用者參與度，也就是使用者在臉書上所花的時間與所做的活動（例如點贊、分享帖子給朋友）。

只要使用者參與度增加，臉書就能收集更多資料，賣出更多廣告，在資訊市場佔據更大份額。此外，提升使用者參與度能給投資人留下好印象，從而有利於推高臉書股價。使用者在臉書停留的時間越久，臉書就越有錢。

根據這種商業模式，人類管理者給臉書演算法定了一個首要目標：提升使用者參與度。

隨後，演算法用幾百萬使用者做實驗，發現最能提升參與度的辦法就是讓人憤慨。所以，為了追求使用者參與度，演算法就做出了一個致命決定：傳播憤怒。

很重要的一點是，演算法本身也逃不了干係。透過反覆實驗，演算法學到了憤怒會提升參與度，而且在沒有上級明確指示的情況下，演算法自己決定要助長憤怒。

這正是人工智慧的典型特徵──雖然它們是機器，但它們擁有自己學習與行動的能力。

在21世紀20年代初，演算法已經能夠自行製造假新聞與陰謀論。

21世紀10年代末發生的種種事件顯示，非人類智慧做出的決策已經能夠塑造重大的歷史事件。人類正面臨著對人類未來失去控制的危險。目前正在出現一種全新的資訊網路，其背後由一套高深莫測的智慧決策和目標控制。

人類目前在這個資訊網路裡仍然扮演著核心角色，但很有可能正在被邊緣化，到最後整套網路甚至可能不需要人類就能正常運作。

計算機正在塑造一個全新的資訊網路

隨著計算機逐漸積累了更多力量，一個全新的資訊網路很可能會出現。

當然，這並不是說網路裡的一切都是新的。至少在一段時間內，大多數舊的資訊鏈還會被保留下來。而且，這個新的資訊網路仍然會保留人與人的連線（比如家庭）以及人與檔案的連線（比如教會）。

然而，這個資訊網路還會有越來越多的另外兩種新型鏈條。

第一種是計算機與人類的連線，計算機在人類之間充當中介，有時候甚至會控制人類。

臉書和TikTok就是兩個我們耳熟能詳的例子。這些計算機與人的連線不同於傳統的人與檔案的連線，因為計算機現在能夠自行做出決策、創造想法，並深度偽造親密關係，對人類發揮過去檔案做不到的影響力。

第二種是目前已經開始出現的計算機與計算機的連線，計算機能夠彼此自行互動，人類被排除在這些連線之外，就連理解其中發生了什麼都很困難。

例如，谷歌大腦就嘗試過用計算機來研發新的加密方法。當時的實驗是要求兩臺計算機（代號為艾麗斯和鮑伯）必須交換加密資訊，而第三臺計算機伊夫則要試著去破解加密程式碼。

如果伊夫能在一定時間內破解加密程式碼，就能得到分數；要是失敗，則由艾麗斯和鮑伯得分。

在經過大約15000次交流後，艾麗斯和鮑伯終於想出了一套伊夫無法破解的加密程式碼。這裡的關鍵之處在於，進行這項實驗的谷歌工程師並沒有教給艾麗斯和鮑伯任何關於加密的知識，是那兩臺計算機完全自行創造出了專屬於它們的私密語言。

像這樣的事情也已經發生在實驗室外的現實世界中了。

以外匯市場為例，這是全球外匯交易的場域，也決定了各種貨幣（例如歐元與美元）之間的匯率。2022年4月，外匯市場的每日交易量平均為7.5萬億美元，其中有超過90%已經直接由計算機之間的對話完成。

但究竟有多少人懂得外匯市場的運作方式呢？更不用說要了解一群計算機怎樣在價值數萬億美元的交易上達成共識，又如何決定歐元與美元的價值了。

在可預見的未來，在這個全新的、以計算機為基礎的網路裡，雖然還是會包括我們這幾十億人類，但人類有可能在其中只是少數。因為除了人類，這個網路的成員還包括數十億甚至數千億個具備超智慧且高深莫測的行為者。

這樣的網路將與人類歷史甚至地球生命史上曾經存在的一切都截然不同。

自大約40億年前地球首次出現生命以來，所有資訊網路都是生物（有機）網路。如果資訊網路變成由非生物的計算機來主導，整個運作方式會相當不同，甚至超乎我們的想象。

畢竟作為人類，我們就連想象力也是有機生化的產物，無法跳出原本設計的生物戲劇。

從第一臺數字計算機問世至今已過去了80年，如今改變的步伐仍在不斷加快，而且我們距離發揮計算機的全部潛力還相差很遠。計算機還可能繼續演化數百萬年，而過去80年發生的事情與即將發生的事情相比簡直微不足道。

如果做一個粗略的比較，可以想象我們來到古代美索不達米亞的某個時間點，在這個時間點的80年前，才有人第一個想到用棍子在一塊溼溼的黏土泥版上畫上一些符號。在這一刻，我們難道能夠想象未來會發展出亞歷山大圖書館？甚至這樣的比較也大大低估了未來計算機發展的潛力。

讓我們再想象一下自己回到了早期地球（大約40億年前）的某個時間點，在這個時間點的80年前，地球還是一片“有機湯”，並終於從中凝結出了第一個能夠自我複製的遺傳密碼。

在這個階段，即使是單細胞的阿米巴原蟲，其細胞組織、成千上萬的內部細胞器以及控制運動及營養的能力，都還只是一種帶著未來風格的幻想。

在這個時間點，我們能夠想象出未來會有霸王龍、亞馬孫雨林，或是人類登上月球嗎？

目前提到“計算機”，我們想到的仍然是個有螢幕、有鍵盤的金屬盒子，因為這是我們的生物想象賦予20世紀最早那批計算機的形狀。隨著計算機不斷成長與發展，它們正在擺脫舊的形態，採取全新的配置，打破人類的想象限制。

不同於有機生物，計算機在一個時間點不一定只能出現在一個地方，而能夠散佈於整個空間，不同的元件位於不同的城市甚至大陸。就計算機的演化而言，從阿米巴原蟲到霸王龍這樣的改變，可能只需要10年。

如果GPT-4還只是阿米巴原蟲，未來的霸王龍會是什麼樣？

生物演化花了40億年，才從有機湯演化成能夠登上月球的人類；計算機可能只需要幾個世紀就能發展出超智慧，超智慧能夠放大到整個行星大小，也能收縮到亞原子級別，抑或延伸跨越整個星系的時空。

從計算機術語的混亂程度也能看出計算機發展的速度有多快。幾十年前，只要“計算機”一個詞就能涵括所有概念，但現在的用詞還包括了演算法、機器人、自動化程式、人工智慧、網路或雲。光是“難以判斷該用哪個詞”這一點就已經很有意義了。

生物包含了許多不同的個別實體，也能集合成“種”和“屬”這樣的分類。但如果講到計算機，要判斷某個實體到哪裡結束，另一個實體又從哪裡開始，以及如何準確地對它們進行分類，已經變得越來越困難。

資訊交換與資料價值

對於這個以計算機為基礎的網路，我們雖然無法預測在幾百或幾千年之後它會有怎樣的長期演變，但還是能談談目前的演變情況，而且這種對當下的討論可能更為迫切，畢竟無論什麼層面，這個新計算機網路的興起都會對所有人造成影響。

接下來，我們會談談這個以計算機為基礎的網路有何新穎之處，對人類生活又有何意義。

我們開宗明義就該講清楚的是，這個網路將會創造出全新的個人現實。資訊並不等於真理與真相，而資訊革命也並不會揭露事實真相。

資訊革命能做的是創造出新的政治結構、經濟模式與文化規範。

由於當前的資訊革命的重要性遠勝過往，所以它很可能會以前所未有的規模創造出前所未有的現實。

之所以有必要了解這一點，是因為目前的情況還在人類的掌控之中。雖然不知道還能持續多久，但目前人類仍有能力左右這些新的現實。

為了能做出明智的決定，我們需要了解目前正在發生的事情。我們在編寫計算機程式碼的時候，絕不只是在設計一個產品，而是在重新設計人類的政治、社會與文化，所以我們最好對政治、社會與文化都有一定的瞭解。而且我們做的決定，最後也必須由我們來負責。

我們過去認為“顧客永遠是對的”“選民能做出最好的選擇”，但這些原則的前提是假設人們都很清楚自己身邊發生了什麼。他們假設，選擇使用Instagram的使用者都完全瞭解這個選擇的全部後果，也認為負責監管蘋果等公司的人們完全瞭解這些公司的商業模式與活動。他們假設大家都真正瞭解這個新資訊網路的詳情與細節，並真心送上自己的祝福。

但事實上，我們根本沒那麼瞭解。

這不是因為我們太愚蠢，而是因為科技太複雜，而且發展的速度太過驚人。我們得耗費大量心思才能搞懂許多東西，而且當你覺得自己懂了，事情已經又有了變化。

在這裡，金融是個格外重要的例子，原因有二。

第一，現代金融工具完全由資訊組成，所以比起創造實物物件，計算機創造或改變金融工具實在太容易了。過去講到貨幣、股票和債券，它們都是由黃金或紙張製成的實物物件，但今天它們已經成為主要存在於資料庫中的數字實體。

第二，這些數字實體對社會與政治世界的影響重大。如果人類不再能夠理解金融體系究竟如何運作，那麼對社會又會有什麼影響？

以資訊換資訊的交易已經無所不在。

目前，每天都有數十億人與科技巨頭進行大量交易，但因為幾乎沒有任何金錢流動，也就無法從銀行賬戶中看出端倪。我們從科技巨頭那裡得到資訊，而我們付出的代價也是資訊。

隨著越來越多的交易採用以資訊換資訊的模式，資訊經濟的成長其實是以犧牲貨幣經濟為代價的，最後可能連貨幣的概念都會動搖。

貨幣應該是一種被普遍採用的價值標準，而不是隻適用於部分情境的價值象徵。

隨著越來越多的東西的價值以資訊來衡量，而從貨幣來看卻都是“免費”的，在某種程度上，如果還是隻看個人或企業擁有多少美元或別的貨幣來判斷他們是否富有，是無法反映現實的。

如果一個人或一家企業在銀行裡沒什麼錢，但擁有龐大的資料庫，這個人或這家企業有可能才是該國最富有或最強大的實體。