-特別福利-
外交家基辛格、谷歌前CEO埃裡克·施密特及微軟前首席研究和戰略官克雷格·蒙迪以前所未有的深度和廣度，審視了人工智慧領域的最新進展，直麵人工智慧帶來的關乎人類生存的最為緊迫的問題：“如果被迫與機器妥協，我們的底線是什麼？在判斷如何跟上AI步伐時，人類需要更清楚地斷言我們與機器的區別。如果不能就我們是誰達成一致，人類就有可能完全把定義我們價值、因此證明我們存在的生存任務交給機器。”
本文節選自亨利·基辛格（Henry Kissinger）、埃裡克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）著的《人工智慧時代與人類價值》。想要免費獲得此書？快來參與文末留言活動吧！
作者：亨利·基辛格（Henry Kissinger）
埃裡克·施密特（Eric Schmidt）
克雷格·蒙迪（Craig Mundie）
譯者：胡利平 風君
出版品牌：中信出版·方舟工作室
想象一下，一臺機器被告知，所有屬於“人類”類別的生物都值得保護，這臺機器很可能已經接受過“訓練”，認識到人類是優雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標準呢？我們怎樣才能讓機器相信，儘管我們的個體表現並不完美，卻仍歸屬於那個崇高的類別？
假設有一天，這臺機器遇到了一個表現出暴力、悲觀、非理性和貪婪的人，它將如何調整自身被打亂的預期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。
或者，它也可以重新調整自己對人性的整體定義，將這個壞分子也包括在內，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。
又或者，更激進的情況下，它可能完全不再認為自己應受制於那些它先前所習得的“合理”對待人類的規則。
今天，人類是機器與現實的中介。人工智慧主要是一種思考機器，而不是執行機器。它或許能給出問題的答案，但還不具備執行結論的手段，而是依賴人類來完成與現實的對接。
但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到矽基世界，進一步鑽進脫離現實的“數字洞穴”，將接觸原始現實的機會交予機器之手，那麼兩者的角色就可能逆轉。
當人工智慧成為人類和現實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身於這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權利，而人類則放棄行使這些權利，於是前者對待後者的方式，就如同後者今日對待前者。
在這種情況下，無論是否得到其人類創造者的明確許可，人工智慧都可能繞過人類主體的需求來實現自己的想法或直接代表自己影響世界。在物質領域，我們這些創造者可能很快就會從人工智慧的必要夥伴變成它的最大制約。這個過程未必直接以機器人技術為發端，而是可以透過人工智慧對我們世界的間接觀察逐漸開始。
人工智慧會長什麼樣
人工智慧可能無法以人類的方式“看”，但它可以透過“機械近似”（mechanical approximation）的方式來體驗世界。
隨著越來越多的網際網路裝置和感測器覆蓋全球，聯網的人工智慧可以整合這些裝置的輸入，以建立對物質世界的高度精細“視野”。
由於缺少一個原生的物理結構來允許或支援類似於人類的“感官”存在，人工智慧仍將依賴人類來構建和維護其所依賴的基礎架構——至少在一開始是這樣。
人工智慧可能會從其對世界的視覺表徵中生成自己的假設，然後在數字模擬中對進行嚴格測試，人類將在物質領域裁決其執行。
當今的人工智慧領軍人物堅持認為，我們不能將直接的物質實驗盡託於這些數字代理之手。只要人工智慧仍然存在缺陷——事實上是嚴重缺陷——這就不失為一個明智的預防措施。
將人工智慧從演算法的牢籠中釋放出來，對我們來說絕對是一個影響重大的決定。人工智慧在物質環境中並不是預設存在的，一旦放之於外，其就很難被重新捕獲。此外，人工智慧不僅可以透過其具備的鼓勵或阻止人類行動的能力來影響現實，在探索現實的過程中，它們可能最終改變現實。
如果人類賦予人工智慧改變物質世界的能力，甚至讓它獲得物質形態，那麼我們必須做好準備，與那些連最富想象力的發明家都難以預見的全新生命形態共同生存於這個星球上。
雖然人類傾向於想象人工智慧採取雙足類人機器人的形態，但機器智慧可以變換為對其任務最有利的任何形態，並根據條件或環境對自身形態進行改變或升級。
以 ChatGPT 為代表的人工智慧已經在虛擬世界中展示了它的能力，它可以複製出自己的克隆體，創造許多不同的化身，或分裂成自主體，以超人般的完美能力協調彼此工作，承擔複雜的任務。
如果將人工智慧釋放到我們之中，它就能以我們現在尚無法想象的規模和材料建造世界，而無須人類的指導或參與。歷史上，人類憑藉自己的雙手，利用石灰石、黏土和大理石創造了七大奇蹟，然後又利用鋼鐵和玻璃建造了更高的尖塔。
每一座人工建築，無論是紀念性的還是實用性的，都是人類試圖建造和控制物質環境的見證。在此背景下，人工智慧的實體具身化將標誌著人類在放棄自身控制權方面的一次非同尋常的事態升級。
一方面，未來的人工智慧看起來或實際上更加自發和自啟用，這可能會加劇今天人類已有的那種對外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服於這些焦慮，則可能會導致人類放棄與人工智慧在物質世界中建立更完美夥伴關係的念頭，而這也將令我們與這種關係可能會帶來的諸多益處無緣。
抉擇時刻
人工智慧的雛形已經顯現，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現直接動力學效應的方向邁出第一步。
當機器到達智力或物質世界的盡頭時會發生什麼？可以想象，當它們開始瞭解並塑造我們的世界時，它們可能會完全理解自身創造行為所依據的背景，也可能會超越我們所知的世界。
我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。
如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發人類的宿命論和屈從心理。另一些人則可能會採取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，並試圖取締人工智慧賦能的活動。
這兩種思維方式都無法讓“技術人”——一種在這個新時代可能與機器技術共生的人類物種——實現令人滿意或建設性的進化。實上，這兩種心態都可能阻礙我們這個物種的進化。
在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，透過禁止人工智慧的進一步發展並選擇停滯不前，我們將有希望避免同樣的滅絕命運——儘管考慮到我們人類面臨的生存風險，包括當今的衝突頻發外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。
