本文為《人工智慧時代與人類價值》一書的前言。該書是美國外交家亨利·基辛格生前的最後一本書，與谷歌前CEO埃裡克·施密特及微軟前首席研究和戰略官克雷格·蒙迪共同寫作。
新書審視了人工智慧領域的最新進展，直麵人工智慧帶來的關乎人類生存的最為緊迫的問題：“如果被迫與機器妥協，我們的底線是什麼？在判斷如何跟上AI步伐時，人類需要更清楚地斷言我們與機器的區別。如果不能就我們是誰達成一致，人類就有可能完全把定義我們價值、因此證明我們存在的生存任務交給機器。”
2018年6月《大西洋月刊》刊登亨利 · 基辛格撰寫的《啟蒙是如何終結的》一文後，眾人頗為驚訝。這位年邁的政治家居然對人工智慧這一課題有自己的見解。那年他剛滿95歲。當時人工智慧還不是一個熱門話題。直到2022年下半年OpenAI 開發出 ChatGPT 後，人工智慧才火了起來。
作為基辛格的傳記作者，我覺得人工智慧問題引起他的關注沒有什麼可驚奇的。早在1957年，基辛格就因撰寫了一本講述一項顛覆世界的新技術的書而聲名鵲起，該書名叫《核武器與對外政策》。他對核武器的深入研究甚至博得羅伯特·奧本海默的讚譽，稱該書“內容之豐富翔實，在核軍備領域還是首次看到……緊扣事實，激情四射，論說觀點銳利”。
基辛格攻讀博士學位時沉浸在19世紀初歐洲外交史中。然而在此後的生涯中，他始終清醒地認識到，大國政治的永恆流轉時不時會被技術變革打斷。與他同代的無數人在第二次世界大戰期間服役。和這些人一樣，基辛格不僅目睹了現代武器造成的大規模死亡和毀滅，還看到了希特勒第三帝國的“變態科學”（丘吉爾所稱）給自己所屬的猶太民族帶來的慘重後果。
基辛格有“好戰者”之名。其實他根本不是什麼好戰者。基辛格成年後，終其一生矢志不渝地致力於防止第三次世界大戰的發生——美蘇冷戰若是轉成熱戰將產生令世人恐懼的後果。他深知，核裂變技術會使下一次世界大戰的毀滅力遠超第二次世界大戰。在《核武器與對外政策》一書的開篇，基辛格估算了一枚千萬噸級核彈投到紐約會造成的毀滅性後果。根據他的推算，蘇聯對美國50個大城市發動一次全面襲擊會殺死1500萬～2000萬人，外加2000萬～2500萬人受傷。除此之外，還有500萬～1000萬人會死於放射性汙染，也許還有700萬～1000萬人會染上疾病，倖存者會面臨“社會解體”。基辛格指出，即使美國遭到蘇聯的全面核攻擊，也有能力令蘇聯遭受同樣的毀滅。結論不言而喻：“因此，一場全面戰爭的唯一結果是交戰雙方必輸無疑。”一場全面戰爭沒有贏家，“因為哪怕是較弱的一方也有能力造成任何社會都無法承受的毀滅”。
然而，基辛格並沒有因為年輕時懷有的理想主義而成為一個和平主義者。在《核武器與對外政策》一書中，他直言道，“削減核軍備不大可能避免恐怖的核戰爭”，軍備核查制度同樣不能。問題不在於是否可以完全避免戰爭，而在於是否“有可能運用想象力想出毀滅力小於全面熱核戰爭的行使權力的方式”。如果不可能，美國及其盟國幾乎無法贏得冷戰。基辛格在發表於《記者》雜誌的文章《控制、檢查和有限戰爭》中告誡說：“如果缺乏任何通常意義上的對有限戰爭的理解，會導致抵制蘇聯行徑的心理框架垮塌。如果戰爭被視為全民自殺，兩害相權取其輕，人們也許會選擇投降。”
基辛格正是依據以上結論，在《戰略與組織》一文中提出了有限核戰爭理論：
為此需要了解另一方的心理活動及其軍事能力。
當年基辛格思索一場有限核戰爭令不少人不寒而慄，覺得他冷酷無情。部分學者，例如托馬斯·謝林，認為基辛格所說的無法抑制其實是可以避免的。日後甚至連基辛格本人也不再提及自己提出的這一觀點。實際情況是，兩個超級大國都根據基辛格在《核武器與對外政策》一書中概述的邏輯製造和部署了戰場核武器或戰術核武器。從理論上講，有限核戰爭也許不可行。然而雙方軍事規劃者的所作所為讓人覺得，有限核戰爭實際上或許是可行的。（其實這類核武器直到今天依然存在。自從俄羅斯陷入俄烏衝突泥沼，俄羅斯政府不止一次威脅使用核武器。）
基辛格始終在思考技術變革對政治領域的影響。1968年1月，他為納爾遜·洛克菲勒寫過一篇早已被人遺忘的文章，文中展望了計算機化或許能幫助決策者處理美國政府機構生成的日益繁多的資訊的種種方式。基辛格認為，高階官員面臨被資料淹沒的極大風險。他寫道：“最高決策者掌握的資訊數不勝數，危急時刻，他根本無力處理這些資訊。”基辛格提出，決策者需要“不斷聽取動盪地區的簡報”，包括潛在的動盪地區，“即使這些地區未被列為重中之重”。同時幕僚還需要向決策者提出“數個行動選項……概括為應對可預見局勢的數個重大備選方案，並對每一個選項很有可能在本國國內及海外造成的種種後果做出評估”。
基辛格承認，為了達到全覆蓋，需要對程式設計、資訊儲存、檢索和影像大力投資。好在現有的“硬體技術”可以執行所有這四個職能。
如今可以把與每一個美國人相關的數百個資訊類別儲存在一個2400英尺（約732米）長的磁帶儲存器裡……第三代計算機現在可以以納秒（十億分之一秒）的速度操作基本的機器運算……實驗性的分時系統已經證明，用於大型資料計算機的多路訪問能力或許可以做到分置於世界各地的執行站和操作站均可以輸入或輸出資訊。過不了多久，就會出現用於計算機輸出的彩色陰極射線管顯示屏。
出任尼克松的國家安全事務助理滿一年後，基辛格曾想搞一臺這種型別的計算機自己用，結果被中央情報局駁回了，想必是即使沒有計算機，基辛格也已經讓情報機構難以招架了。
亨利·基辛格從未退休。他無時無刻不為人類的未來擔憂。這樣一個人怎麼可能會對他晚年出現的最重要的技術突破——生成式人工智慧的開發和使用視而不見呢？認識這一新生技術的意義耗費了基辛格在世最後幾年的大量時間和精力。
《人工智慧時代與人類未來》這本書是基辛格與兩位知名技術專家埃裡克·施密特和克雷格·蒙迪合著的，也是他撰寫的最後一本書。此書帶有這幾位創新者與生俱來的樂觀主義印記。他們展望了“技術人(Homo technicus)，一種在這個新時代可能與機器技術共生的人類物種”的演進前景。他們認為，人工智慧很快就會被用來“創造人類財富和福祉的新基準……即便不能完全消除之前蹂躪人類的各種勞動、階級和衝突壓力，至少也可以減輕這些壓力”。採用人工智慧甚至有可能導致深刻的變革，消除種族、性別、國籍、出生地和家庭背景之間的差異。
一連串的警告構成這本書的中心思想，從中可以辨識出這位最年長作者的貢獻：“人工智慧的出現是一個關乎人類生存的問題……人工智慧還面臨著控制不當的挑戰，它可能以破壞性的方式積累知識……”下面這段話是基辛格最初在《啟蒙是如何終結的》一文中提出的問題，刊登在2018年的《大西洋月刊》上。這本書沒有用原文，但一看就知出自基辛格：
人工智慧具備透過非人類手段精確認知我們這個世界的客觀能力。這不僅打破了我們對過去500年人類孜孜以求的科學方法的依賴，還挑戰了人類聲稱只有自己才真正瞭解現實，或人類對現實的瞭解獨一無二的說法。
這可能意味著什麼？人工智慧時代會不會不僅不能推動 人類向前邁進，反而會讓人類加速倒退回前現代社會接 受不加解釋的權威的日子？簡而言之，我們是不是正瀕臨或者也許會瀕臨人類認知大倒退的懸崖邊緣——一種黑暗啟蒙？
筆者覺得，此書中最令人感到震撼的內容是合著者思考了令人無比擔憂的人工智慧武器競賽。合著者寫道：“倘若每一個人類社會……都想最大限度地擴充單邊實力，勢必會引發敵對雙方的軍隊和情報機構展開一場迄今人類聞所未聞的心理戰。從今天起，直至首個超級智慧降臨前的數年、數月、數週和數天內，事關人類生存的安全困境始終等待著我們。”
如果我們正在目睹“一場為了得到唯一一個完美無瑕、毫無疑問具有主導優勢的智慧而進行的競爭”，會產生什麼後果？我數了一下，合著者一共設想了6種可能發生的情景，沒有一個有吸引力。
基辛格對以上可能發生的情景憂心忡忡，他為防止發生以上情景做出的努力沒有止於撰寫此書。眾所周知，基辛格此生所做的最後一次努力是啟動了中美兩國就限制人工智慧武器進行談判的程序。他在百歲生日過後的最後幾個月裡，為此耗盡了殘留的元氣。基辛格這樣做正是為了預防以上種種反烏托邦後果。
這本書的結論毫無疑問代表了基辛格的觀點：
技術專家對這類不祥之兆的反應通常是提醒我們人工智慧帶來的可見益處。醫學科學領域內產生的成果已顯而易見。我對此不持異議。以我之見，較之 ChatGPT，AlphaFold 這一突破的重要性遠超前者。後者是一種可預測蛋白質三維結構的神經網路模型。不過20世紀醫學科學也有過重大進展，例如，發明和普及了抗生素、種種新疫苗，以及數不清的其他療法。儘管如此，世界大戰和種族滅絕還是發生了。
技術進步的核心問題體現在亨利·基辛格的一生中。1938年，柏林的兩位德國化學家奧托·哈恩和弗裡茨·施特拉斯曼發現了核裂變現象。1939年，出生在奧地利的兩位物理學家莉澤·邁特納和她的侄子奧托·羅伯特·弗裡施給出了核裂變在理論上的解釋併為之命名。一次核鏈式反應可能導致“釋放出大規模能量和放射性物質，很不幸，也許還會催生原子彈”。
這一真知灼見出自匈牙利物理學家利奧·西拉德。當時物理學家們也認識到，或許有可能把鏈式反應控制在一個核反應堆中，藉此產生熱能。然而，製造第一顆原子彈僅用了三年時間。而直到1951年，第一座實驗性核電站才建成。
讀者不妨問問自己，過去80年裡人類造得更多的是核彈頭還是核電站？今天，世界上大約有12500枚核彈頭，而且這一數字還在不斷上升。與此形成鮮明對比的是，現在只有 436座核反應堆正在執行。從絕對值來看，2006年核能發電量達到了峰值。核電站發電量佔全世界總髮電量的比例從1996年的15.5%下降至2022年的8.6%。原因之一是為數不多的核事故引發了過度的政治反應。與化石燃料排放的二氧化碳相比，這些事故對人類健康和環境的損害微乎其微。
亨利·基辛格的一生給人的啟示顯而易見。技術進步的後果既可以是良性的，也可以是惡性的，這取決於人類共同決定如何利用技術進步。當然，人工智慧在諸多方面不同於核裂變。然而，如果想當然地認為這一新技術會被更多地用於建設性而非毀滅性的目的，將會鑄下大錯。
亨利·基辛格的真知灼見來自歷史經驗和個人經歷。正是他的真知灼見激勵他在一生中花費大量時間研究世界秩序和如何避免世界大戰。這也是為什麼他對最新的人工智慧突破的反應如此迅速，憂慮如此之深。這也是為什麼他的這部遺作與他在自己漫長而又顯赫的一生中撰寫的任何文章同樣重要。
尼爾·弗格森，2024年7月寫於牛津