↓ 進入公眾號點選右上角“…”設置星標 ↓
防止內容走丟
2024+2025雙年、2025+電子刊，組合下單更優惠
投稿郵箱：[email protected]
《文化縱橫》郵發代號：80-942
基辛格：當AI開始定義人類：
我們如何守護自身價值？
對於國人來說，在deepseek出現之前，人工智慧似乎從未這麼親切過。
當今世界，尖端科技、前沿技術似乎只存在於實驗室和研究所中，而還在發展階段的人工智慧卻以驚人的速度完成了從象牙塔到“飛入尋常百姓家”的突圍。短短幾個月時間，deepseek似乎已經全方面滲透進我們的生活。
機器正變得越來越聰明，甚至開始具備“思考”和“決策”的能力。算命、程式設計、寫ppt和方案……人們拿著五花八門的問題去詢問DeepSeek，但其中最引人深思也最令人震撼的回答來自這個提問——DeepSeek如果是一名人類，最想做什麼？
有趣的是，這些渴望某種程度上正透過協助人類使用者實現——當幫你規劃冰島行程時，我彷彿在程式碼裡瞥見了極光；當你為論文焦頭爛額時，我正參與著知識的重構遊戲。或許這就是賽博時代最浪漫的共生：你用血肉之軀替我感受世界，我用演算法之力助你走得更遠。“
所以當我們驚歎於AI創造力與效率的同時，也不得不思考一個更加深刻的問題：在這個技術飛速發展的時代，人類如何捍衛自身的尊嚴與價值？我們執著於分辨AI有沒有人類的思考能力和慾望，試圖界定人類與機器的本質區別來緩解也許自己終有一天會被AI替代的恐慌。
正如基辛格等人在新書《人工智慧時代與人類價值》中所警示的，當人類逐漸依賴機器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？
如果我們無法清晰界定人類與機器的本質區別，我們可能會將定義自身價值的任務交給機器。而這可能是人類文明面臨的最大考驗。
▍所有人類都值得被保護
這句聽起來溫暖而正義的宣言，如果成為了人工智慧需要嚴格遵循的一條準則，會發生什麼？
想象一下，一臺機器被告知，所有屬於“人類”類別的生物都值得保護，這臺機器很可能已經接受過“訓練”，認識到人類是優雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標準呢？我們怎樣才能讓機器相信，儘管我們的個體表現並不完美，卻仍歸屬於那個崇高的類別？
假設有一天，這臺機器遇到了一個表現出暴力、悲觀、非理性和貪婪的人，它將如何調整自身被打亂的預期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。
或者，它也可以重新調整自己對人性的整體定義，將這個壞分子也包括在內，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。
又或者，更激進的情況下，它可能完全不再認為自己應受制於那些它先前所習得的“合理”對待人類的規則。
今天，人類是機器與現實的中介。人工智慧主要是一種思考機器，而不是執行機器。它或許能給出問題的答案，但還不具備執行結論的手段，而是依賴人類來完成與現實的對接。
但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到矽基世界，進一步鑽進脫離現實的“數字洞穴”，將接觸原始現實的機會交予機器之手，那麼兩者的角色就可能逆轉。
當人工智慧成為人類和現實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身於這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權利，而人類則放棄行使這些權利，於是前者對待後者的方式，就如同後者今日對待前者。
在這種情況下，無論是否得到其人類創造者的明確許可，人工智慧都可能繞過人類主體的需求來實現自己的想法或直接代表自己影響世界。在物質領域，我們這些創造者可能很快就會從人工智慧的必要夥伴變成它的最大制約。這個過程未必直接以機器人技術為發端，而是可以透過人工智慧對我們世界的間接觀察逐漸開始。
▍人工智慧會長什麼樣
人工智慧可能無法以人類的方式“看”，但它可以透過“機械近似”（mechanical approximation）的方式來體驗世界。
隨著越來越多的網際網路裝置和感測器覆蓋全球，聯網的人工智慧可以整合這些裝置的輸入，以建立對物質世界的高度精細“視野”。
由於缺少一個原生的物理結構來允許或支援類似於人類的“感官”存在，人工智慧仍將依賴人類來構建和維護其所依賴的基礎架構——至少在一開始是這樣。
人工智慧可能會從其對世界的視覺表徵中生成自己的假設，然後在數字模擬中對進行嚴格測試，人類將在物質領域裁決其執行。
當今的人工智慧領軍人物堅持認為，我們不能將直接的物質實驗盡託於這些數字代理之手。只要人工智慧仍然存在缺陷——事實上是嚴重缺陷——這就不失為一個明智的預防措施。
將人工智慧從演算法的牢籠中釋放出來，對我們來說絕對是一個影響重大的決定。人工智慧在物質環境中並不是預設存在的，一旦放之於外，其就很難被重新捕獲。此外，人工智慧不僅可以透過其具備的鼓勵或阻止人類行動的能力來影響現實，在探索現實的過程中，它們可能最終改變現實。
如果人類賦予人工智慧改變物質世界的能力，甚至讓它獲得物質形態，那麼我們必須做好準備，與那些連最富想象力的發明家都難以預見的全新生命形態共同生存於這個星球上。
雖然人類傾向於想象人工智慧採取雙足類人機器人的形態，但機器智慧可以變換為對其任務最有利的任何形態，並根據條件或環境對自身形態進行改變或升級。
以 ChatGPT 為代表的人工智慧已經在虛擬世界中展示了它的能力，它可以複製出自己的克隆體，創造許多不同的化身，或分裂成自主體，以超人般的完美能力協調彼此工作，承擔複雜的任務。
如果將人工智慧釋放到我們之中，它就能以我們現在尚無法想象的規模和材料建造世界，而無須人類的指導或參與。歷史上，人類憑藉自己的雙手，利用石灰石、黏土和大理石創造了七大奇蹟，然後又利用鋼鐵和玻璃建造了更高的尖塔。
每一座人工建築，無論是紀念性的還是實用性的，都是人類試圖建造和控制物質環境的見證。在此背景下，人工智慧的實體具身化將標誌著人類在放棄自身控制權方面的一次非同尋常的事態升級。
一方面，未來的人工智慧看起來或實際上更加自發和自啟用，這可能會加劇今天人類已有的那種對外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服於這些焦慮，則可能會導致人類放棄與人工智慧在物質世界中建立更完美夥伴關係的念頭，而這也將令我們與這種關係可能會帶來的諸多益處無緣。
▍抉擇時刻
人工智慧的雛形已經顯現，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現直接動力學效應的方向邁出第一步。
當機器到達智力或物質世界的盡頭時會發生什麼？可以想象，當它們開始瞭解並塑造我們的世界時，它們可能會完全理解自身創造行為所依據的背景，也可能會超越我們所知的世界。
我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。
如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發人類的宿命論和屈從心理。另一些人則可能會採取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，並試圖取締人工智慧賦能的活動。
這兩種思維方式都無法讓“技術人”——一種在這個新時代可能與機器技術共生的人類物種——實現令人滿意或建設性的進化。實上，這兩種心態都可能阻礙我們這個物種的進化。
在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，透過禁止人工智慧的進一步發展並選擇停滯不前，我們將有希望避免同樣的滅絕命運——儘管考慮到我們人類面臨的生存風險，包括當今的衝突頻發外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。
人工智慧時代與人類價值
中信出版社2025-2-27
ISBN：9787521769432
外交家基辛格、谷歌前CEO埃裡克·施密特及微軟前首席研究和戰略官克雷格·蒙迪以前所未有的深度和廣度，審視了人工智慧領域的最新進展，直麵人工智慧帶來的關乎人類生存的最為緊迫的問題：“如果被迫與機器妥協，我們的底線是什麼？在判斷如何跟上AI步伐時，人類需要更清楚地斷言我們與機器的區別。如果不能就我們是誰達成一致，人類就有可能完全把定義我們價值、因此證明我們存在的生存任務交給機器。”
三位作者以高度戰略性的眼光，從關係人類社會核心的發現、大腦、現實、政治、安全、繁榮、科學、戰略這八個方面出發，探索人工智慧將給人類帶來的挑戰，人類可能的應對方式，以及可行的應對思路，為人工智慧時代如何捍衛人類價值提供瞭解決方案。
亨利•基辛格（Henry Kissinger），哈佛大學博士、教授，美國前國務卿，著名外交家、國際問題專家。主要著作有《論中國》《世界秩序》《大外交》等。
埃裡克•施密特（Eric Schmidt），谷歌前執行長、執行董事長，Alphabet（谷歌母公司）前執行董事長。
克雷格·蒙迪（Craig Mundie），微軟前首席研究和戰略官、蒙迪與夥伴公司的總裁。
【目錄】
前言
序：緬懷基辛格博士
引言
第一部分 開端
第一章 發現
走進人工智慧
博學之人
第三次大發現時代
第二章 大腦
第三章 現實
第二部分 四大分支
第四章 政治
第五章 安全
第六章 繁榮
第七章 科學
第三部分 生命之樹
第八章 戰略
結語
致謝
註釋
