作者：自由源於
來源：自由源於（ID：freefrom_mn）
引子：時代之問
在人類的歷史長河中，有一些特殊時刻——諸如火的發現、輪子的發明以及電力的應用——徹底重塑了人類文明，永久地改變了歷史的程序。
如今，我們正接近又一個這樣的關鍵時刻。人工智慧與生物技術正在掀起一場新的技術浪潮。我們從未見過變革潛力如此巨大的技術，它們勢必以令人敬畏的方式重塑我們的世界。
一方面，這些技術的潛在益處巨大且影響深遠。藉助人工智慧，我們可以揭開宇宙的奧秘，治癒長期困擾人類的疾病，創造出超乎想象的全新藝術和文化形式。透過生物技術，我們可以重塑生命體，解決疾病問題，改造農業生產，從而構建一個更健康且可持續的世界。
但另一方面，這些技術的潛在風險同樣廣泛且意義重大。人工智慧可能引導我們創造出我們無法控制的系統，使我們受制於自己都不理解的演算法。生物技術可以幫助我們操縱生命的基石，而這可能給個體和整個生態系統帶來意料之外的後果。
站在這個轉折點上，我們面臨一個關乎未來的選擇。選擇的一端是前所未有的可能性，另一端則是難以想象的危機。人類的命運，取決於在接下來的幾年和幾十年間，我們所做出的決策。這些決策將決定我們最終是戰勝這些技術挑戰從而走向新的輝煌，還是淪為技術風險的犧牲品轉而陷入巨大的動盪。
在這個充滿變數的時刻，有一件事是確定無疑的：先進技術的時代已經到來，我們必須做好準備，直面挑戰。如何保持對這些強大的先進技術的有效控制，進而遏制這些技術可能帶來的巨大風險，成為了今天的時代之問。
而這，也是《浪潮將至》這本書所探討的主題。
勢不可擋
幾個世紀以來，技術極大地提高了數十億人的福祉。人類停不下來。
技術浪潮
近現代的人類文明史，就是一部技術的發明與擴散史。技術沿著一條清晰而必然的軌跡演化——從星星之火的技術誕生，到技術成本不斷下降、技術能力持續提升，最終走向燎原之勢的大規模技術擴散。無論是遠古的燧石和骨器，還是今日的人工智慧模型，每次都遵循同樣的模式。
不是所有技術，都會形成浪潮。簡言之，浪潮是某一時期同時湧現的多種技術的集合，它們受到一種或多種具有深遠社會影響的新型通用技術的推動。所謂“通用技術”，指的是那些能夠對人類的能力產生變革性影響的技術，社會進步與這些技術的發展緊密交織。石器和火是最原始的通用技術，現代通用技術則包括內燃技術、電力技術、資訊科技等。
技術浪潮刻畫了人類歷史，進而人類成為一個技術物種。從誕生之初，我們便與技術浪潮緊密相連，共同進化，共生共存。
通用技術的諷刺之處在於，一旦它們普及開來，我們往往就會對其視而不見，將其視為理所當然的存在。比如，早期技術浪潮中的核心通用技術——語言、農業生產和文字系統，早已日用而不覺。
隨著時間的推移，技術間的動態強化作用呈現加速的態勢。從18世紀70年代開始，歐洲迎來了第一次工業革命。自那以後，世界的巨大變革已經不再以世紀或千年計，而是以幾十年為衡量單位。這也成為康波週期的底層要素。
由此，將歷史視作一系列技術浪潮的觀點，成為主流。未來學家阿爾文·托夫勒將資訊科技革命稱為繼農業革命和工業革命之後的“第三次浪潮”。
報復效應
技術浪潮在改變世界的同時，也面臨著巨大的挑戰。在高度複雜且動態演進的現實世界中，技術的二階、三階乃至更高階的影響會以不可預測的方式擴散。一旦某項發明問世並融入世界，其創造者就會迅速失去對其發展走向的控制。無論一項發明的初衷多麼友善，我們都永遠無法保證人們會如何實際運用它。
除了積極的溢位效應，理解技術還意味著對其“報復效應”的預測。簡言之，任何技術都有可能出錯，而且往往是以一種與初衷背道而馳的方式出錯。想想處方阿片類藥物如何導致依賴成癮；抗生素的過度使用如何削弱了其藥效；衛星和所謂的“太空垃圾”碎片的激增如何給太空飛行帶來極大風險。這些都是典型的例子。
技術的力量越強大，它就越是深入生活和社會的方方面面。當技術不斷擴散，越來越多的人能夠使用、修改，並按自己的喜好來塑造它時，這會觸及一連串錯綜複雜、難以預料的因果鏈條。最終，技術的潛在危害也在同步激增。
對技術說不，困難重重。技術即思想，而思想無法被消除。人類不可能撤銷發明，也不可能長期阻止其應用。人們不可能退回已掌握的知識，或阻止其傳播。設想一下，你要構建一個完全摒棄電力、自來水和藥物的當代社會。即便你能實現這一設想，你又如何說服他人呢？
因此，儘管有報復效應，極少有社會能夠成功避開技術的浪潮。浪潮一旦站穩腳跟，其勢頭便幾乎無法阻擋。不管面臨什麼障礙，技術的本質都是傳播。
人工智慧
新一輪技術浪潮，主要建立在兩大通用技術之上——人工智慧和合成生物學。
它們既能在最宏大的層面上運作，也能深入最微觀的層面。這是人類技術生態首次直接觸及人類兩大基本屬性：智慧和生命。這意味著，技術正在經歷一次重大轉變——從工具轉向重塑生命，並與人類自身展開競爭，甚至超越它。
人工智慧，自1955年首次提出以來，常常更像是遙遠的願景。然而，2012年，突破性時刻到來了。那一年，基於深度學習的AlexNet系統嶄露頭角，在ImageNet大規模視覺識別挑戰賽中，以10%的準確度提升打敗了上一年的冠軍。此前，通常每一年新模型的準確度提升較上一年都不會超過1個百分點。
深度學習使用的神經網路大致模仿了人類大腦的神經網路構造。基於海量的訓練資料，深度學習系統透過反向傳播技術，不斷調整網路連線的權重以提高效能。最終，它將從接收的單個畫素開始學習，識別出線條、邊緣和形狀，最終理解場景中的整個物體。
深度學習技術，在人工智慧世界掀起了一場風暴。2016年3月，DeepMind公司研發的AlphaGo系統，以4∶1的比分戰勝了技藝精湛的圍棋世界冠軍李世石。從此，美國和中國的重要科技公司都將機器學習視為研發工作的核心。人工智慧，也成為了學術、政府和企業領域的關鍵議題。
現如今，人工智慧的大規模應用已如火如荼。2022年11月，OpenAI公司推出ChatGPT，迅速在世界範圍內引發了大規模的關注。
ChatGPT背後的關鍵技術是大語言模型。其關鍵突破在於，我們首次能夠直接在原始、雜亂無章的現實世界資料上訓練超大模型，而無須依賴那些經過仔細篩選和人工標註的資料集。這使得網路上的幾乎所有文字資料都變得有價值了，資料量越大越好。
研究人員提出了“Scaling Law”，這一假設認為，系統性能提升的主要驅動力就是簡單地擴大規模。只要持續增加資料、引數和計算量來擴充套件模型，它們就能不斷提升效能，甚至可能達到或超越人類水平的智慧。
如今的大語言模型是在數以萬億詞級別的文字規模上進行訓練的。這種對海量資訊的瞬時處理能力，意味著當下的人工智慧系統在極其龐大的規模上運作。因此，這些新型大語言模型在各類寫作任務中能夠表現出色，並不讓人感到意外。
大語言模型僅用幾年時間就改變了人工智慧。在當前計算水平的支援下，人工智慧已在諸如語音轉寫和文字生成等任務上展現了與人類相當的水準。
不僅是語言生成，大語言模型的應用已拓展至影像生成、音訊剪輯以及影片生成領域。這些模型在訓練過程中還意外獲得了眾多其他功能，如創作音樂、設計遊戲、下棋以及解決高階數學問題等。
甚至還包括程式設計。2022年，OpenAI和微軟聯手推出了Copilot工具，人工智慧系統幫助工程師編寫出高質量的程式碼。有分析顯示，Copilot能讓工程師完成程式設計任務的速度提升55%。
1950年，計算機科學家艾倫·圖靈提出了著名的圖靈測試——如果人工智慧能夠長時間地展現出與人類相似的對話能力，使得人類對話者無法分辨其機器身份，那麼該測試即為透過。
現如今，人工智慧系統已非常接近透過圖靈測試。基於智慧不僅是語言，還包括行動能力，作者提出了21世紀的圖靈測試：在幾個月內，用10萬美元的投資在亞馬遜上賺取100萬美元。作者認為，在3～5年內，我們有望看到人工智慧完全自主地完成這樣的任務。
合成生物
直至最近，技術的漫長曆史都可以被一句話概括：人類對操控原子的不懈探求。自20世紀中葉起，技術開始在更為抽象的層面上運作。這一轉變的關鍵在於人類逐漸認識到資訊是宇宙的一個核心屬性。起初是位元，而後基因的潛力越發顯現，這兩者已逐漸取代原子，成為技術發明的新基石。
生命，這項宇宙中最古老的“技術”，已經存在了至少37億年。在無盡的歲月裡，生命以緩慢、自主、無序的方式悄然進化。然而，就在近幾十年，生物學的神秘面紗開始被逐漸揭開，而生物學本身也蛻變為一種強大的工程工具。生命的故事瞬間被重寫，進化的步伐突然加速，並找到了新的方向。過去那些需要地質時間尺度來完成的變革，如今正以指數級速度疾馳前進。
與人工智慧的迅猛發展類似，合成生物學也正處於成本不斷降低、能力持續提升的快速發展階段。我們的基本認識是，DNA是資訊，是一種生物進化的編碼和儲存系統。近幾十年來，隨著對這一資訊傳輸系統的理解越來越深入，我們不僅可以介入其中，還能改變其編碼，引導其發展方向。因此，食品、藥物、材料、製造過程以及消費品都將迎來全新的變革和重構。而人類自身，也將在這場變革中迎來全新的自我。
20世紀50年代，詹姆斯·沃森和弗朗西斯·克里克揭示了DNA的結構。1973年，斯坦利·科恩和赫伯特·博耶成功地找到了將一種生物的遺傳物質轉移到另一種生物中的方法，這標誌著基因工程時代已經到來。
受這一研究的啟發，博耶於1976年創立了世界上第一家生物技術公司——基因泰克。公司的核心任務是操控微生物基因，以開發藥物和治療方法。僅僅一年之內，他們就對大腸桿菌實現了基因改造，使之成功分泌出了激素生長抑素，從而驗證了這一技術的可行性。
1988年，人類基因組計劃啟動。到了2003年，人類基因組的92%測序完成，標誌著人類的遺傳圖譜首次變得清晰易懂。DNA測序成本遵循所謂的“卡爾森曲線”——不到20年，基因測序價格就降低為原來的百萬分之一，這速度比摩爾定律還要快1000倍。
如今，我們不僅能夠編輯基因，還可以編寫基因。2012年，在珍妮弗·杜德納和埃瑪紐埃勒·沙爾龐捷的引領下，CRISPR（成簇規律間隔短迴文重複）基因編輯技術取得了重大突破。它讓人們首次能夠像編輯文字或計算機程式碼一樣輕鬆編輯基因。
CRISPR利用Cas9酶這把“基因剪刀”精準地剪下DNA鏈的特定部分，從而實現基因編輯和改造。這種技術的影響力不容小覷，比如，編輯形成卵細胞和精細胞的生殖細胞意味著變化將延續至後代。
CRISPR的應用領域越來越廣，從富含維生素D的番茄，到鐮狀細胞病和β地中海貧血等疾病的治療，都有它的身影。安全、廣泛的基因療法正向我們走來，它們將幫助我們培育出耐旱、抗病的作物，提高產量，並推動生物燃料的大規模生產。
如果說測序是解讀生命密碼，那麼合成就是創造新的生命篇章。基因合成，就是製造遺傳序列、列印DNA鏈的過程。這個過程不僅限於複製已知的DNA鏈，還能讓科學家編寫出全新的DNA鏈，從而實現對生命的改造。
DNA創造的世界充滿無限可能。現在，像DNA Script這樣的公司正在把DNA印表機推向商業化，這些印表機能夠透過訓練和改造酶構建出全新的分子。這種技術的出現催生了合成生物學這個新領域，讓我們能夠讀取、編輯，甚至編寫生命的程式碼。
醫學進步是合成生物學的一個重要方向。比如，CAR-T細胞療法透過設計特定的免疫白細胞來攻擊癌症細胞，基因編輯技術也有望治癒遺傳性心臟病。這些努力將為個性化醫學的新時代奠定基礎。從護理方式到藥物選擇，一切都將根據我們的DNA和特定生物標誌物來精準定製。最終，我們或許能夠重新配置自己的身體。
這就是人類引導設計進化的魅力所在，人類透過有針對性的干預，將數千萬年的進化歷程壓縮並簡化。合成生物學的遠景是“讓我們能夠更直接、更自由地製造在任何情景下所需的一切”。
生物學，正迎來指數級飛躍。
強大合力
人工智慧和合成生物學，還會相互促進。甚至與其他技術，深度融合。
蛋白質是生命不可或缺的基石，它們無處不在，形態各異，執行著無數關鍵任務。理解了蛋白質，你就邁出了理解並掌控生物學的一大步。
僅僅知道DNA的序列，並不能讓我們窺見蛋白質運作的全貌。真正關鍵的是要探究蛋白質如何摺疊成特定的形狀。這種形狀，正是蛋白質功能的核心。然而，弄清楚蛋白質如何摺疊，一直是一個難以攻克的難題。
幾十年來，科學家一直在苦苦尋找解決蛋白質摺疊問題的更好辦法。2018年，DeepMind公司的AlphaFold人工智慧系統，在第13屆CASP競賽中一舉擊敗了98支老牌隊伍，奪得了冠軍。
利用深度神經網路，AlphaFold根據蛋白質的DNA資訊預測其可能的摺疊方式。透過對已知蛋白質資料集的訓練和推斷，我們的新模型能夠更準確地預測成對的氨基酸類化合物之間的距離和角度。
2022年，AlphaFold2向公眾開放，引發了全球先進的機器學習工具在基礎與應用生物學研究中的廣泛應用。此前，歐洲生物資訊學研究所的資料庫僅收錄了約19萬種蛋白質的結構資料，其約佔已知蛋白質總量的0.1%。而DeepMind一次性上傳了近2億種結構，幾乎覆蓋了所有已知的蛋白質。過去，研究者可能需耗費數週甚至數月才能確定一種蛋白質的形狀和功能，如今這一過程在幾秒內就能啟動。
另一種人工智慧與生物學的融合頗具創意——將人類大腦直接接入計算機系統，即腦機介面技術。當人類大腦能瞬間訪問網際網路和雲端的海量計算與資訊時，將會發生什麼呢？這確實難以想象。
人工智慧與物理世界的結合，離不開機器人技術。機器人，可以視為人工智慧的實體化。
現如今，工業機器人已經大量運用。藉助於強化學習技術，人型機器人取得了長足的進步，能夠完成諸如用夾具拿起杯子、開啟門等動作，甚至在今年的春晚上，機器人和舞蹈演員共同完成了二人轉表演。
與此同時，機器人的叢集能力也在不斷增長，這大幅提升了單個機器人的潛能，促使機器人群體形成集體智慧。想象一下，一群建築機器人在幾分鐘內搭起一座橋，在幾小時內建起一座大樓，或是全天候照料巨大的高產農場，或是清理石油洩漏。
與人類相比，機器人可以在保持工作精度的同時，在更多元化的環境中持續工作更長時間。在人工智慧的賦能下，機器人將能夠複製人類所有的物理行為，甚至做到更多。
延伸開來，大規模的人工智慧應用，離不開算力和能源的支援。當下的算力，更多的來自於晶片技術的持續發展；長遠來看，量子計算有望接力。當下的能源，更多的來自於傳統化石能源；長遠來看，以風電、光伏為代表的可持續能源，以及核聚變為代表的終極能源，正在地平線上。
如果我們要用一個最粗略的等式來描述我們的未來世界，那可能如下所示。
（生命+智慧）×能源=現代文明
增加等式左邊的任何一項輸入要素（更不用說將其邊際成本降至接近零了），社會性質都將發生根本性的變化。
遏制之難
如今，一個人很可能“具備殺死10億人的能力”，所需的僅僅是一個動機。
浪潮特徵
即將到來的技術浪潮因其4個固有特徵，讓遏制問題變得更加棘手。
第一，其首要特徵，是技術的高度非對稱性影響。你不必力量相當、規模相當地進行對抗，新技術會使得那些看似強大的勢力暴露出以前難以想象到的弱點和破綻。
第二，這些技術發展迅猛，呈現出一種超級進化性，它們以驚人的速度迭代、改進，並不斷拓展至新的領域。
第三，它們往往具有通用性，能夠服務於多種不同的目的。
第四，與任何以往的技術相比，它們越來越展現出一定程度的自主性。
非對稱性，意味著新技術會帶來權力的重新分配。在俄烏戰爭中，無人機和人工智慧為烏克蘭縮小與俄羅斯之間的差距提供了重要手段。美國和以色列，都曾使用價值300萬美元的愛國者導彈來擊落價值僅幾百美元的無人機。
這些進展意味著權力的大規模轉移。具體而言，權力從傳統國家和軍隊轉向任何有能力且有意願部署這些技術裝置的個體或組織。
非對稱性，還意味著單一的故障點就可能觸發全球範圍內的連鎖反應。比如，一次病原體實驗或許就能觸發全球大流行病；一臺高效運轉的量子計算機可以讓全球的整個加密基礎設施形同虛設。
正如全球化、高度互聯的市場在金融危機中展現出強大的傳染效應，技術亦具備類似屬性。人工智慧帶來的非對稱性風險，已延伸到整個社會的層面。網路規模的龐大，使得對潛在損害的遏制變得幾乎不可能。
如果技術以可控的速度發展，社會就有足夠的時間和空間來理解和適應它。以汽車為例，安全標準雖然總是有點兒滯後，但最終還是能跟上汽車技術的發展。然而，超級進化性，意味著留給技術遏制的時間，相當有限。
過去40年，網際網路已成為歷史上成果最為豐碩的創新平臺之一。數字領域的發展日新月異，讓其他領域的進步則稍顯黯淡。在未來的40年裡，我們將看到原子世界的內容以空前的複雜性與保真度被轉化為位元資訊。更重要的是，位元世界的內容也將以前所未有的效率和便捷性被轉化為實體的原子內容。
簡言之，“真實世界”中的創新速度可能將與數字化的步伐並駕齊驅。透過將算力與人工智慧和製造技術（如先進的機器人技術和3D列印技術）相結合，我們將能夠以前所未有的速度、精度和創造力來設計、操縱和製造實實在在的產品。
在合成生物領域，模擬技術不僅大大加速了疫苗的研發程序，還讓細菌按需產出特定蛋白質成為可能。正如當今的模型能依據寥寥幾個提示詞便生成細節豐富的影像一樣，未來數十年，新出現的類似模型將能夠根據簡單的自然語言提示，生成全新的化合物，乃至一個完整的生命體。這種化合物設計可以透過模型的無數次自主實驗得到改進和最佳化。
生物進化的速度正踏入與軟體進化週期相似的軌道。
通用性，則意味著技術的用途本身具有雙重性。比如，自動化藥物研發，既能在浩如煙海的分子世界中，搜尋到那些難以尋覓卻極具治療價值的分子，也可以用於致命物質的探尋。
事實上，絕大多數技術都同時具有軍事和民用用途，或至少具備這樣的潛能。比如，一個深度學習系統可能是為了遊戲而設計的，也有可能用於操控整個轟炸機艦隊。
自主性，則意味著在新技術面前，人類可能不再是主角。值得一提的是，自主性並非技術固有的屬性。長久以來，我們總傾向於將技術視為“只是個工具”。然而，當工具有了“生命”時，將會怎樣？
在人工智慧的新正規化下，我們無須再煞費苦心地為技術規定任務的執行方式。相反，我們只需設定一個高層次的目標，便可依賴機器去探尋達成該目標的最佳路徑。比如，ChatGPT4的內容輸出，並不來自於人為程式設計，而是源於一個更廣泛的技術架構的湧現效應，其內容輸出已遠超系統設計師預先可以控制的範疇。
自主性的新形態還有可能催生一系列新奇且難以預料的後果。比如，對生殖細胞進行基因改造，這些改變就有可能在物種中延續無數代，並與其他物種產生互動，進而遠遠超出我們的控制和預測範疇。再比如，當人工智慧系統主宰自身的研發週期，探索各種方法以最佳化自身演算法，將會發生什麼呢？
人類能主宰環境，是因為我們擁有智慧。推而廣之，如果存在一個更智慧的實體，它便有可能主宰我們。
多層驅動
技術浪潮的澎湃發展，其背後擁有著多層次的驅動力，這讓技術遏制變得困難重重。
-
大國競爭：技術領域的較量一直以來都是地緣政治的常態。各國都深刻認識到，跟上其他國家的步伐至關重要，技術創新意味著權力。
-
研究生態：現有的全球研究生態系統，大力推崇公開出版，鼓勵人們釋放好奇心，並倡導人們不遺餘力地追求新思想。
-
經濟利益：技術解決了全球性的社會挑戰，從而帶來巨大的經濟利益。
-
自我追求：最後卻不可忽視的驅動力——個體的自我追求。
美蘇爭霸，是大國競爭的代表性案例。1957年秋，世界首顆人造衛星“斯普特尼克”由蘇聯送入太空，這標誌著人類太空探索的首次嘗試。然而，對美國來說，這無疑是一場巨大的危機，堪比科技領域的珍珠港事件。
美國政府迅速採取行動，將科學技術發展全面升級為國家的首要任務。新的資金迅速到位，新的機構（NASA、DARPA）應運而生，12年後，“阿波羅計劃”讓美國，而非蘇聯，首次將人類成功送上月球。
斯普特尼克的升空激發了美國的鬥志，使其在火箭技術、太空技術、計算機技術以及這些技術在軍事和民用領域的應用方面最終崛起為超級大國。
技術是“國之重器”，是某些國家能夠“稱雄世界”的關鍵因素。誰在發展、擁有和利用先進技術，對國際秩序而言至關重要。
目前，各國在技術領域的軍備競賽，使得技術就好比一支沒有指揮的管絃樂隊，大家自由演奏。然而，這一事實最終可能會成為21世紀影響最為深遠的一個因素。
純粹的好奇心、對真理的追求、開放的精神，以及以證據為基礎的同行評審，這些要素共同構成了科學技術研究生態背後的核心價值觀。專利制度的設立，更是在鼓勵知識探索和冒險的同時，為知識的共享提供了保障機制。資訊的廣泛傳播與獲取，已成為我們文明發展的重要動力。
與18世紀與19世紀的秘而不宣相對比，如今開放性理念已深植於研究文化之中。學術界建立在同行評審機制之上，任何未經可靠的同行嚴格稽核的論文，都難以達到最高的學術標準。資助者通常不願支援那些秘而不宣的研究。研究機構和研究者都高度關注其發表成果及論文引用次數。研究人員如今還利用推特等社交媒體來推廣新發表的論文。
學術界大力倡導研究成果的開放獲取模式，這也推動了開源軟體領域的繁榮發展。一些全球最大的公司，如Alphabet、Meta和微軟，常常慷慨地免費貢獻出大量的智慧財產權。顯然，未來的技術領域將是“開源”的天下。
事實上，學術研究者的好奇心或政府的意願，都不足以推動新技術走進數十億消費者的日常生活。科學只有在轉化為實用且受歡迎的產品時，才能真正實現廣泛傳播。簡言之，科技的誕生多是受經濟利益驅使的。
在“利潤引擎”的驅動下，世界經濟總值已達到85萬億美元，並且仍在不斷增長。即將到來的技術浪潮代表著歷史上最大的經濟機遇。數千億美元的風險投資和私募股權資金正湧入無數的初創企業。僅針對人工智慧技術的年投資額就達到了1 000億美元。這些資金都期待獲得回報，而它們所推動的技術創新則是實現這一利潤回報的途徑。
技術在人類應對當前和未來的各種不可避免的全球挑戰時，起著至關重要的作用。以氣候變暖為例，衝破2℃的升溫紅線，將對世界產生深刻的影響。圍繞著能源轉型的清潔能源以及碳捕獲與封存技術，就是人類直面挑戰的最新努力。
隨著全球老齡人口的增長，如何為身患頑固慢性病的老年人口提供日益昂貴的醫療保健？在這方面，新技術還承載著強有力的道德使命。
科學家和技術人員也是凡人。諸如追求真理、創造歷史、成就偉業、助人為樂、超越他人，或是為了給未來的伴侶、上司、同事或競爭對手留下深刻印象之類的自我追求，賦予了他們卓越的實踐與創新能力。
推動技術進步的往往不僅僅是國家的需要或股東的要求，更多時候是個人的內心驅動力，無論是出於高尚的追求還是零和博弈的競爭。觀察那些成功的科學家或技術專家，你會發現，在某種程度上，他們都深受內心深處那種原始的、強烈的個人慾望的驅動。
國家間的軍備競賽、大企業間的競爭、實驗室和研究人員間的相互激勵，這些看似獨立的技術競賽實際上構成了一個複雜且相互強化的動態機制。試圖減緩這些技術的推進，是與國家、企業和研究機構的利益相悖的。
國家困境
遏制技術，是一個終極的集體行動難題。成功的遏制，意味著必須打破其各驅動因素之間相互強化的動態機制。或許只有一種實體能針對此問題提供解決之道，那就是我們政治體系的基礎，也是對社會的技術創造負最終責任的主體——民族國家。
民族國家和公民的關係，可以理解為一份大契約：公民讓渡部分權力給予國家以實現權力集中，而國家確保這種權力的集中帶來的益處遠大於其風險。
歷史已經證明，國家對武力的集中控制，即賦予國家在執行法律和發展軍事力量方面的廣泛自由，是實現和平與繁榮的關鍵途徑。更重要的是，一個治理良好的國家體系是經濟增長、安全保障和民眾福祉的重要基礎。
歷史上的每一次技術浪潮都帶來了深遠的政治影響。在過去10年裡，技術為政治極化和制度脆弱性的形成和加劇創造了條件。以社交媒體為例，快速傳播的媒體資訊能夠輕易地觸發我們的本能情緒反應，我們會因感知到威脅而大量分泌腎上腺素。人們的情緒尤其是憤怒情緒越強烈，社交媒體上的活躍度就越高，進而引發更大範圍的傳播。研究表明，數字媒體使用的增加與人們對政治的不信任、民粹主義運動的興起、仇恨情緒的加劇以及政治極化的上升之間存在顯著相關性。
技術已經逐漸侵蝕了民族國家原本穩固的主權邊界，它開啟了人口、資訊、思想、經驗、商品、資本和財富的全球化流動，並不斷推動這一趨勢。技術在地緣政治戰略中佔據著舉足輕重的地位，它幾乎滲入了人類生活的方方面面。
可以明確的說，技術本身具有政治屬性，技術微妙的政治化影響無處不在，國家和技術之間緊密相連。
權力是“以特定方式行事的能力”以及“影響他人行為或事件程序的能力”。新一輪技術浪潮，將大幅度降低權力的成本，從而推動大規模的權力分散。與此同時，為了控制先進技術可能引發的巨大失控風險，也會促進大規模的權力集中。
在作者看來，未來的民族國家將會向兩個方向演化。其一，在技術浪潮的持續衝擊下，國家的核心功能逐漸喪失，基本服務的質量持續下滑，政治體制變得不穩定，最終演變為“殭屍政府”。其二，為了追求對先進技術的絕對控制，國家控制力過度擴張，藉助高科技實現全景式監控，進而催生出歷史上最極端的技術獨裁政體。
作者認為，無論是國家體系的崩潰，還是威權政體的興起，都是災難性的情況。這兩種路徑，都會導致原本維繫國家穩定的自由與安全的平衡被打破，從而使國家陷入混亂。
穿越浪潮
巨大的變革即將到來，這是無法避免的。我們該如何應對？
新的契約
面對新的技術浪潮，在發展與控制之間找到平衡，本質上是在全社會層面構建起新的契約。
以如今普遍可及的機動車為例，它在提高交通運輸效率的同時，也存在造成重大人員傷害與財產損失的可能。顯然，機動車交通監管無法僅靠某一個監管機構或幾部法律來實現。恰恰相反，我們有一系列關於交通、道路、停車、安全帶、碳排放、駕駛員培訓等方面的規定。
這些規定的提出者包括國家立法部門、地方政府、公路管理機構、交通管理部門、發證機構以及環境標準部門等。有效的監管不僅要依靠立法者，還需要警察、交通管理員、汽車公司、機械師、城市規劃者和保險公司的共同參與。
幾十年來，複雜的法規體系不斷發展完善，使得我們的道路和車輛更加安全有序，進而推動交通的發展和普及。但令人悲痛的是，每年仍然有135萬人喪生於交通事故。監管儘管可以在一定程度上減少負面影響，但無法完全消除諸如車禍、汙染等不良後果。在權衡利弊之後，我們認為這一人力成本是可以接受的。
在機動車這個例子中，對利弊的權衡，對行為的約束，得到了公眾的認可和支援。最終，雖然不能絕對避免傷害，機動車走入了日常生活。
類似的思路，對於即將到來的人工智慧和合成生物學的大規模普及，同樣是適用的。只是，這樣的由全社會共同構建、接受並遵守的契約，其建立和完善尚需時日。
關鍵步驟
越多人關注技術的負面作用，並意識到技術遏制的必要性，人類越有可能更多地享受技術進步所帶來的利益。
為此，作者提出了邁向遏制的10個關鍵步驟。這10個步驟像同心圓一樣，彼此相互支援，共同形成了新的商業驅動力、改革後的政府、國際條約、更健康的技術文化以及全球性的公眾運動。這也讓技術遏制的最終實現，有了基本的參照和起點。
結合以下9個要素，我們可以構建起一個應對即將到來的技術浪潮所需的框架。
-
安全：採取具體技術措施，以降低潛在風險並保持對技術的掌控；
-
審計：有效確保技術透明度和問責制；
-
技術命門：作為槓桿因素，用於放慢技術發展速度，為監管機構以及開發防禦技術爭取時間；
-
開發者：確保開發者從一開始就將適當的控制措施融入技術中，實現負責任的開發；
-
企業：協調技術背後的組織驅動力與遏制目標之間的關係；
-
政府：支援政府構建技術、監管技術，並實施緩和措施；
-
聯盟：建立國際合作體系，協調法律制度與管控專案；
-
文化：培育一種善於分享經驗和教訓的文化，以便快速傳播解決問題的方法；
-
運動：需要公眾在各個層面的積極參與，包括對各個技術遏制環節施加必要的壓力，以確保其承擔相應的責任。
第10步著重於整體協調，確保前述每個要素都能與其他要素和諧並存，共同發力。
技術遏制是一個措施之間相互強化、形成良性迴圈的過程，並非單一建議所產生的結果，而是這些建議相互交織、共同作用所產生的綜合效應，是社會在學習管理和減輕“技術人”風險的過程中自然產生的結果。
無論是面對病原體、量子計算機還是人工智慧，靠單一行動是遠遠不夠的。然而，透過精心構建並層層疊加的反制措施，如從國際條約的防線到新技術供應鏈的保護層，落地的方案會逐漸變得更為堅實有力。
最後，也是最重要的，面對技術遏制的艱鉅挑戰，我們不應退縮，而應將其視為行動號召，視為我們這一代人需要共同面對的時代使命。
後記：主動出擊
作為萬物之靈，人類區別於其他物種的特別之處在於，除了體力、腦力之外，還具備強大的心力。也就是，在面對客觀世界的時候，人類具備所謂的主觀能動性。
人類的長久繁榮與發展，離不開技術的持續創新與應用。然而，技術普及化的同時，風險也隨之全民化。當技術的發展速度超越了安全防護的步伐時，人類將不可避免地遭遇技術的反噬。
這個時候，我們需要做的是，主動引導技術的創新與應用，使之與人類的根本利益相一致，而不只是被動地接受技術的控制。
技術遏制看起來越來越難以實現。但為了所有人的利益，我們必須讓技術遏制成為可能。
唯有如此，人類的整體安全和長久繁榮，才能夠得到切實的保證。
版權宣告：部分文章推送時未能與原作者取得聯絡。若涉及版權問題，敬請原作者聯絡我們。