封面圖 | 《頭號玩家》劇照

有的人還沒正經用上AI，先被AI給騙了。

近期有不少人發現，網上出現很多張文宏、靳東、黃百鳴等名人的AI合成影片，未經本人授權，以「換臉」「換聲」的形式賣貨牟利，甚至詐騙。張文宏憤怒地將其形容成「蝗災」，一次又一次發生，連報警也找不到物件。

事實上，張文宏口中的「蝗災」只是這一輪技術浪潮帶來的小小漣漪。AI的發展速度令人難以置信，在全世界各國「軍備競賽」一般的努力下，每週，有時甚至每天，都會有新的模型和產品問世。

由人工智慧和合成生物學所定義的技術浪潮正不斷加速，我們可以想象更卓越的醫學進步、更好的清潔能源、更多的商業機會，但我們也可能面對AI助力的網路攻擊、毀滅性的自動化戰爭以及人為製造的流行病。個人、企業和國家，都將在浪潮沖刷下發生改變。

獲中信出版集團授權，今天和大家分享《浪潮將至》中的部分內容，關於技術浪潮引發的大規模權力再分配所帶來的政治影響。AI時代，我們並不是無能為力的旁觀者，瞭解浪潮如何發生，我們可以針對性提高生存能力，更從容地面對變化。

來源：《浪潮將至》

作者：[英] 穆斯塔法·蘇萊曼、邁克爾·巴斯卡爾

出版方：中信出版集團

1.一家公司 → 一個帝國

當代的「東印度公司」

在長達1000多年的時間裡，從蒙古帝國到莫臥兒王朝，傳統帝國一直是亞洲地區的最強大勢力。然而，到19世紀時，情況已發生了變化。一家由少量股東持有的私人公司一躍成為新的支配力量。

在遠離英國數千英里的地方，這家公司由一群數量不多且默默無聞的會計師和管理人員運營，他們的辦公樓也僅僅是一棟不起眼的普通建築。

19世紀初，英國東印度公司已控制了印度次大陸的大片領土。它統治的土地面積和人口數量超過了整個歐洲，甚至擁有徵稅與立法的權力。該公司擁有一支訓練精良、規模達到20萬人的常備軍，這一數字是英國本土駐軍的兩倍，它還運營著世界上最大的商船隊。其整體軍事火力在亞洲範圍內超過任何國家。

東印度公司的全球貿易關係對香港受殖民統治和波士頓傾茶事件等多個歷史事件產生了重要影響。此外，其關稅、稅收以及股息對英國經濟舉足輕重，當時英國至少有一半的對外貿易都透過這家公司進行。

這顯然不是一家普通的公司，而更類似於一個帝國。我們難以用現代的視角去全面理解這樣的公司。雖然現代世界中不大可能出現東印度公司的新殖民主義2.0版本，但我們必須正視某些商業董事會擁有巨大的規模和影響力這一事實。這些影響力在潛移默化中塑造著當今的文化和政治格局，更為重要的是，它們將影響未來幾十年的發展走向。

從某種意義上說，它們就是一種帝國。隨著新技術浪潮的到來，它們的規模、影響力和能力無疑會進一步得到擴大與提升。

知識和影響力高度集中化

人們常喜歡透過對比人工智慧和人類在執行特定任務時的表現來衡量人工智慧的發展水平。研究者經常討論人工智慧在諸如語言翻譯或實際操作任務（如駕駛）等方面超越人類的可能性。

然而，這種做法忽略了一個事實：世界上最強大的力量，其實是那些協調一致、追求共同目標的群體。

組織本身就是一種智慧。企業、軍隊、政府機構，甚至市場，都是人造的智慧形式，它們能夠彙集和處理大量的資料，圍繞特定目標進行自我組織，並建立相應的機制以更有效地達成這些目標。

事實上，機器智慧與其說是與人類思維相仿，不如說它更類似於一個龐大的組織機構。當我們在探討人工智慧對世界的巨大影響時，我們也應該記住，這些傳統的人造的智慧形式同樣具有極其深遠的影響力。

當機器能夠更高效地完成運營公司或政府部門所要求的大部分工作和任務時，將發生怎樣的變化？誰將首先從這些變化中獲益？他們可能會如何利用這種新力量？

我們已經邁入一個新的時代，其中巨型企業的市值高達萬億美元，資產規模甚至超越了一些國家。

以蘋果公司為例，該公司推出了人類歷史上最精美、最具影響力且使用最廣泛的產品之一—iPhone（蘋果手機），這無疑是一件傑作。全球有超過12億人在使用iPhone，為蘋果公司帶來了豐厚的收益：2022年，該公司市值超過了英國富時100指數所有上市公司的市值總和。蘋果在銀行擁有近2000億美元的現金和投資儲備，同時其生態系統牢牢吸附了龐大的使用者群體。在即將到來的技術浪潮中，蘋果公司顯然佔據了有利地位。

另一個相似的例子是谷歌。谷歌的服務遍佈全球各個產業領域，包括但不限於地圖與定位、評論與商家資訊、廣告、影片流媒體、辦公工具、日曆、電子郵件、照片儲存以及視訊會議等。所有這些服務都彙集在一家公司之下。

大型科技公司為人們提供了各式各樣的工具，從協助組織生日派對到運營數百萬美元的業務，無所不包。在這些科技巨頭之外，能如此廣泛地影響無數人生活的組織，恐怕也只有政府了。這種現象或許可以稱為「谷歌化」：透過提供一系列免費或低成本的服務，某些公司在社會經濟和人類生活體驗中扮演著重要的角色。

要了解這種集中化程度，我們可以注意一個事實：《財富》全球500強公司的總收入已經佔據了全球GDP的44%。這些公司的總利潤甚至超過了全球GDP排名前六的國家之外的所有國家的年度GDP總和。

這些公司掌控著龐大的人工智慧處理器叢集、頂尖的模型、最先進的量子計算機，以及絕大部分的機器人技術和智慧財產權。與火箭、衛星和網際網路技術當時的情況不同，在新的技術浪潮中，引領者主要是企業，而非政府機構或學術實驗室。在新一代技術的推動下，企業的進一步集中化似乎是順理成章的發展趨勢。

市場的「超級明星」效應日益凸顯並不斷增強，行業領軍者佔據的市場份額持續擴大。全球經濟排名前50的城市，雖然其人口僅佔全球人口的8%，但集中了巨大的財富和企業力量。它們匯聚了45%的大企業總部，同時這些城市的經濟產出佔全球GDP的21%。全球排名前10%的企業更是獲得了80%的總利潤。可以預見，新技術浪潮將繼續催生更加富有、更加成功的「超級明星」——在地區、商業部門、公司和研究團隊層面，我們都將看到更多巨頭的崛起。

我相信，我們將看到一些私營企業持續壯大，其規模和影響力甚至會超越許多民族國家。

以韓國三星集團為例，這個龐大的企業帝國有著巨大的影響力。三星起初只是一家麵條商會，但歷經近一個世紀的發展，尤其在朝鮮戰爭後，它崛起成為一個大型企業集團。在20世紀六七十年代，韓國經濟迅猛增長，而三星在這一程序中發揮了核心作用。它不僅僅是一個多元化的製造業巨頭，還是推動銀行和保險業發展的重要力量。可以說，韓國的經濟奇蹟離不開三星的助力。三星已成為代表性的財閥，即那些在國家經濟中佔據主導地位的大型企業。

三星不僅擅長智慧手機、半導體和電視領域，其業務還涉及人壽保險、渡輪運營和主題公園等。在三星工作是備受推崇的職業選擇。三星集團的收入佔韓國經濟的20%。對如今的韓國人來說，三星幾乎就是一個並行的政府，影響著人們的日常生活。然而，由於錯綜複雜的利益關係以及不斷出現的企業和政府醜聞，韓國與三星集團之間的權力平衡既脆弱又模糊。

或許有人認為三星和韓國的發展軌跡是個特例，但在未來，這樣的「特例」有望成為常態。鑑於技術能力的廣泛聚集趨勢，新一代企業有望承接一系列原本由政府提供的服務，例如教育、國防，甚至可能包括貨幣和執法等領域。

以eBay和PayPal的爭議解決系統為例，該系統目前每年處理約6000萬起爭議，處理量是美國整個法律體系的3倍，其中90%的爭議是僅透過技術手段得到解決的。未來將有更多類似的轉變。

從某種意義上說，科技已經催生了一種新型的現代「帝國」。即將到來的技術浪潮將讓這一趨勢提速，為那些創造和控制技術的人帶來極大的權力和財富。

在政府資源日益緊張的背景下，新的私人利益團體將填補政府服務的空缺。雖然這一過程不會像歷史上的東印度公司那樣透過武力手段進行，但它無疑會創造出類似於東印度公司那樣的與政府的規模、影響力和權力相當的企業。那些擁有資金、專業知識和分銷渠道，並能利用即將到來的技術浪潮大幅提升自身智慧和影響力的公司，將獲得巨大的收益。

企業之間可能出現「智慧鴻溝」

上一次技術浪潮見證了物質向非物質、商品向服務的轉變。

目光所及之處，技術皆在推動商品的非物質化轉變，並透過提供持續消費服務，而非傳統的單次購買產品的交易模式，降低了消費的複雜性。

如今的大型企業，無論是生活服務平臺，還是社交媒體平臺，它們的發展趨勢都已不再是簡單地參與市場，而是創造新的市場；它們不再只是生產產品，而是聚焦於服務運營。

現在的問題是，還有哪些元素可以轉化為服務，從而孕育出新的大型企業？

我預測，在未來的幾十年裡，大多數的實體產品都將以服務的形式呈現，零邊際成本的生產與配送模式將使之成為可能。所有一切都將朝著雲服務模式發展，而低程式碼和無程式碼軟體的興盛、生物製造的崛起以及3D列印技術的蓬勃發展將推動這一趨勢。當即將到來的技術浪潮的各個方面融合在一起時——從人工智慧的設計、管理和物流能力，到量子計算支援的化學反應建模，再到機器人的高精度組裝能力，整個生產領域將迎來一場深刻的變革。

要滿足人們對廉價和無縫服務的需求，通常需要達到一定的規模，這就要求在晶片、人力、安全和創新等方面進行大量前期投資，而這將進一步推動企業的集中化發展。

在這樣的情景下，幾家規模和實力堪比傳統國家的行業巨頭將會出現。更重要的是，擁有最先進系統的企業可能會形成巨大的競爭優勢。我之前提到的那些在即將到來的技術浪潮中搶佔先機的大型集中化企業，最終可能會發展得比以往任何企業都更加龐大、富有和穩固。

系統在各行業間越是廣泛應用，權力和財富就越是向著系統所有者集中。那些有足夠資源以最快速度發明或採用新技術的企業，例如能透過我提出的現代圖靈測試的企業，將獲得快速增長的複合回報。

由於其系統擁有更豐富的資料和「現實世界應用經驗」，因此效能更優越，可推廣性更強，從而能夠鞏固優勢，進一步吸引頂尖人才參與系統建設。這可能會導致企業之間出現難以逾越的「智慧鴻溝」。

如果一個企業能取得足夠的領先優勢，那麼它甚至有可能成為一個無與倫比的收入來源和權力中心。如果這種技術優勢出現在通用人工智慧或量子霸權等領域，那麼新進入者甚至政府都將難以對其形成挑戰。

無論這一程序的結局如何，可以確定的是，世界正邁向一個全新的格局。前所未見的強大力量和能力將掌握在一些本已強大的企業手中，而這些企業無疑會利用它們來繼續擴大自身的影響力，推進自己的議程。

這種集中化發展趨勢將推動大型自動化企業將價值重心從依賴人力資本（即人類的工作）轉向注重強化原始資本，這一程序所帶來的一系列不平等現象將會導致已出現的社會裂痕進一步加深和擴大。難怪有人開始談論新封建主義或技術封建主義，這種新的趨勢將直接挑戰現有的社會秩序，而這一次的挑戰建立在比馬鐙等發明強大得多的技術基礎之上。

總之，智慧所帶來的複合回報將呈現指數級增長。過去我們稱之為組織的那些人造智慧實體，將在新一輪的能力集中化浪潮中獲得巨大利益。這可能是有史以來最大規模的能力聚集現象。把人類成功的精髓提煉出來並重新打造成工具，使之在各種現實環境中廣泛應用，這無疑是一項空前的成就。各類企業和官僚機構都將爭相追求並掌握這樣的工具。如何管理這些組織實體，以及它們將如何與國家產生摩擦、相互影響並重塑國家形態，仍是一個懸而未決的問題。但毋庸置疑的是，它們將給國家帶來嚴峻挑戰。

然而，權力的持續集中化所產生的影響，並不僅僅在企業中體現。

2.監控一切的時代

與那些「超級明星」企業相比，政府似乎顯得行動遲緩、結構臃腫，並且與社會的需求脫節。因此，人們難免會輕視政府，認為它將被歷史淘汰。然而，不容忽視的是，民族國家還有另一種必然的行動趨勢，它們會利用新技術浪潮帶來的工具來強化自身的權力控制，進一步穩固自身的統治地位。

在20世紀，極權主義政權追求的目標是計劃經濟、順從的民眾以及嚴格受控的資訊環境。它們渴望全面支配權力，對社會生活的方方面面加以控制，包括制訂詳盡的發展計劃，對從電影數量和內容到特定農田的預計產量等所有細節都做出詳細規定。

20世紀的現代主義城市規劃者希望打造秩序井然、流動有序的新型城市，而一個始終保持高度戒備且冷酷的安全機構則用於確保整個社會系統的穩定執行。

儘管革命者和官僚竭盡全力，但社會並不能被強制塑造成他們理想中的模樣。社會相對於國家而言，始終是一個複雜且難以駕馭的現實存在，它從未完全順從國家的意願。人類的多樣性和衝動性使得我們無法被簡單地框定和限制。過去，極權政府擁有的工具和方法無法滿足其控制的需求。因此，這些政府最終都以失敗收場，要麼未能提升民眾的生活質量，要麼自身崩潰或被迫進行改革。權力的過度集中不僅是民眾所反感的，而且在現實中也是行不通的。

即將到來的技術浪潮帶來了一種令人不安的可能性：上述情況或許將不復存在。相反，新的技術可能會讓權力和控制高度集中，從而使國家職能嚴重偏離其原始設計，演變為一種專制力量。對威權政權及全球大國競爭格局來說，這些新技術都是強大的助推器。它們使國家能以前所未有的規模和精確度蒐集並利用資料，或建立起覆蓋大多數地區的監視和控制系統，從而能夠即時採取行動。

換言之，將歷史上最強大的技術系列集中於一個機構之下，將徹底重塑國家權力的邊界，這甚至可能催生出一種全新的權力實體。

清晨，智慧音箱將你從夢中喚醒。你隨即拿起手機檢查電子郵件。智慧手錶則向你報告了前一晚安穩的睡眠和早晨穩定的心率。從理論上說，這時，某個遠端機構可能已獲悉你何時醒來、你的健康狀態，以及你正關注的資訊。

當你踏出家門前往辦公室時，手機便悄然記錄著你的行動軌跡、簡訊內容和收聽的播客。在通勤途中與整個工作日里，閉路電視監控系統將無數次捕捉到你的身影。畢竟，這座城市遍佈攝像頭。當你刷卡進入辦公室時，系統會自動記錄你的進入時間。安裝在電腦上的某些軟體甚至能透過獲取你的眼動資料，追蹤你的工作表現。

在回家的路上，你停下來購買晚餐，手機會記錄你的購買詳情。用餐過後，你沉浸在一部新電視劇中，你的觀看習慣也會被細緻記錄下來。你的每一個眼神、每一條倉促發出的資訊、在瀏覽器中留下的每一條搜尋痕跡、穿越繁忙街道的每一個腳步、每一次心跳和每一段不安穩的睡眠，以及每一次的購物或退貨，所有這些都被獲取、觀察和整理成資料。而這些僅僅是每天可能被蒐集的資料的冰山一角。這些資料不僅來自工作或手機，還來自醫院或健身房。

幾乎你生活中的每一個細節，都會被那些有能力處理並利用這些資料的人在某處悄然記錄下來。這並不是什麼遙不可及的反烏托邦場景。這描述的正是都市人的日常生活。

西方企業和政府在積極構建和部署監控技術。政府監視和控制其人民並不是什麼秘密，這種趨勢也出現在西方企業中。在智慧倉庫裡，工人們的每一個細微舉動，甚至包括他們的體溫和如廁時間，都會被追蹤和記錄。就連你點的外賣比薩也可能被監視著——達美樂運用人工智慧賦能的攝像頭來對比薩製作過程進行監督。西方人在日常生活中每天都會產生大量的資料，這些資料被蒐集、加工、應用和出售。

在新的技術浪潮出現之前，「高科技全景監控」這一概念還只存在於反烏托邦小說中，如葉甫蓋尼·扎米亞京的《我們》和喬治·奧威爾的《1984》。

而如今，全景式監控正逐步成為可能。數十億臺裝置和數萬億個資料點能夠同時被即時監控，這些資料不僅可用於目的監視，還可用於趨勢預測。這不僅能夠實現對社會動向的精確預估，還可透過潛移默化或公開的方式引導甚至推動某些具體的社會結果，其影響可觸及宏觀層面（如選舉結果），也可微小至個體的消費行為。

這種現狀凸顯了極權主義復興的可能性。這種情況不會在全球範圍內同時出現，但如果人工智慧、生物技術、量子技術、機器人技術等尖端科技同時集中在某一專制國家的手中，那麼這將產生我們在歷史上從未見過的新的權力實體。

3.即將到來的矛盾浪潮

要洞察未來，我們就必須同時審視那些相互衝突的趨勢。即將到來的技術浪潮會同時帶來權力的大規模集中和分散，這兩種看似相反的趨勢將並行出現。

無論是個人、企業、教堂、非營利組織還是國家，最終都將擁有自己的人工智慧系統，甚至在生物和機器人技術方面也會獲得相應的能力。每個人工智慧系統都將專注於實現其主人的目標，無論這個主人是坐在沙發上的個人，還是全球最大的組織。

這正是理解充滿矛盾的即將到來的技術浪潮的關鍵所在——這是一場充斥著衝突與對立的浪潮。

每一種新興權力都將帶來一種獨特的公共產品願景，或者提供一種全新的產品生產方式，或者傳播一套不同的宗教信仰。人工智慧系統已開始在一些具有政治意味的決策中扮演重要的角色，如獲得貸款、工作機會、大學入學資格、假釋資格和醫療資源。未來10年，人工智慧將在很大程度上影響公共資金的分配、軍事力量的部署，以及教育內容的選擇等諸多方面。這種情況同時以集中和分散的方式出現。

例如，人工智慧可以作為一個龐大的、跨區域運營的系統，一個通用的公共管理工具，為數億人提供服務。同樣，即便是一個小村莊，也將擁有量身打造的強大、經濟、開源且高度靈活的系統。

多種所有制結構將並存，如開源群體內部實現的技術「民主化」共有、領軍企業或初創企業對其產品的所有權，以及政府透過國有化或內部培育所形成的所有權。這些不同的所有制形式將共同存在，共同發展。它們將在各個層面和領域改變、增強、促成甚至破壞權力的流動和權力網路。

這些力量將在何處展現、如何展現，將因為現有社會和政治因素的不同而呈現出巨大的差異。我們不能將這一局面過度簡單化，針對這些力量，會出現許多事先難以預料的抵抗與適應點。一些部門和地區可能會選定某個方向，而另一些則可能選擇相反的方向，還有一些則可能遊離於兩種方向之間。某些權力層級和社會架構將得到鞏固，而其他的則可能遭受衝擊；一些地區也許會趨於更加平等或更加威權，而其他地區則可能不一樣。

總體而言，技術所引入的額外壓力、不穩定性、權力放大的不可預測性，以及新興能力中心所帶來的潛在干擾效應，都將進一步對自由民主民族國家的制度基礎構成挑戰。

如果你仍覺得我所描述的情景聽起來離奇、矛盾且難以實現，那麼請思考這一點：即將到來的技術浪潮會進一步加深並全面展現上一次技術浪潮的矛盾趨勢。

網際網路便是一個完美的例子：技術雖然集中在少數幾個地方，但其力量分散到了數十億人手中，它不僅創造了行業巨頭，也為所有人提供了參與機會。

社交媒體不僅成就了幾家龍頭企業，也催生了無數的社群。人人可以建立網站，但谷歌只有一個；每個人都能銷售特色商品，但亞馬遜只有一家。類似的例子不勝列舉。

網際網路時代的顛覆性變革，很大程度上源於這種矛盾與張力，正是這種關係孕育了技術的強大而高效的賦能與控制力。

隨著這場浪潮的到來，這些力量所影響的將不僅侷限於網際網路和數字領域，更會深入我們生活的方方面面。的確，我們已見過技術帶來的顛覆性變化，但這場浪潮將引發比網際網路技術更加深遠的變革。具有高度廣泛適用性的新一代通用技術不僅會改變我們的社會，也將重新塑造人類自身。

這聽起來或許有些誇張，但在未來的10年裡，我們必將目睹資訊、財富，尤其是權力的巨大流動與重新分配。這將意味著大規模的權力集中和分散。

那麼，技術將走向何方？更為重要的是，我們的未來將如何？如果國家不能以平衡的方式管控即將到來的技術浪潮，結果會怎樣？

國家是唯一能夠管控這場浪潮的力量，然而，我們已經看到，多重壓力與權力的大規模重新分配將共同讓國家機制面臨嚴峻挑戰，甚至使之面臨存在危機。

這個危急時刻已近在咫尺。在技術持續崛起與國家日漸式微的背景下，這場危機將演變為一道關乎人類命運的重大難題，迫使我們面臨一系列棘手的選擇與取捨，這無疑構成了21世紀人類所面臨的最大困境。

如果我們最終陷入別無選擇的境地，那將是技術的最大失敗。遺憾的是，當前趨勢正將我們推向這樣的局面。

一起聊聊：