馬斯克：人類即將迎來由AI製造的“過剩時代”

本文轉自：北京德國文化中心歌德學院

人工智慧具備獨自解決複雜問題的潛能，但根據阿德里安·羅貝（Adrian Lobe）的觀點，在一個“取消了問題的世界”，傳統的政治協商過程將失去意義。我們是否願意以犧牲自由為代價來換取更多的自由？

+++

人工智慧正在以令人驚異的速度突飛猛進。AI系統可以做到像莫奈那樣作畫，像貝多芬那樣作曲，或者像海明威那樣來寫作，在圍棋、象棋、撲克等遊戲領域也比人類更勝一籌，甚至已經達到可以診斷皮膚癌和發明新藥的水平。幾周前，普林斯頓大學的物理學家們藉助AI成功解決了核聚變研究中的一個關鍵問題。而問題在於，當所有問題都被“解決”之後，人類還能做什麼？他會成為青年馬克思所暢想的那種在吊床上悠閒度日的人，在社交網路上追逐自己的熱愛，還是會感到自己是個一無所用的廢柴？

早在2019年，微軟創始人比爾·蓋茨就在一篇部落格裡對這一“目標困境”做過描述：“當我們解決了飢餓、疾病等重大問題，所有人都生活在一個比以往更加和諧的世界，那會是怎樣的情形？接下來人類將會追逐怎樣的目標？哪些挑戰將會激發我們的靈感和好勝心？”與同行埃隆·馬斯克和山姆·阿特曼（Sam Altman）所持的那種帶有幾分末日危機感的論調相反，蓋茨擔憂的並不是機器人暴動，而是關乎人類生存的意義危機：即所謂“目標的匱乏。”——果真有這麼糟糕嗎？

一切交給AI，人類只需躺平

對此，哲學家和物理學家尼克·勃斯特羅姆（Nick Bostrom）給出了否定的回答。在新出版的《深度烏托邦》一書中，勃斯特羅姆勾勒出一種未來社會的理想圖景：技術幫助人類擺脫了塵世上的一切桎梏。勞動？家務？教育？——統統交由機器去解決！在勃斯特羅姆所稱的“後工具時代”，人類的諸般努力將失去其原有的意義和目標，自此以後任何人都不用在圖書館裡挑燈夜戰或是為了應付考試埋頭苦讀，因為人們可以把知識直接下載至自己的身體，或是透過“大腦編輯”來實現自我更新。在一個後勞動社會，文憑、資格認證、工作坊等等將無一例外化為雞肋。

就連人的自我提升也將由技術接管（至於經由技術裝備的自我是否已屬於數字分身的範疇，勃斯特羅姆在書中則未置一詞），因為人人都可以藉助基因療法和醫用奈米機器人來保持“完美身型”，誰也無需在健身房裡揮汗如雨，或者為了降至標準體重而忍受飢餓的折磨，更無需自掏腰包去度假療養，因為一粒小小的藥丸就足以讓人擺脫疲勞。再也沒有什麼理由去學習、教育和健身——只要躺平即可。

在勃斯特羅姆看來，取消各種以目標為導向的活動並不意味著自由的喪失，反而還能給人帶來更多的自由。在這位哲學家眼中，社會的全部不幸就在於人類總喜歡跟在一堆目標後面窮追不捨。而如果有朝一日人們無事可做，那麼無拘無束的休閒文化就會在一瞬間內變幻出千百萬種可能的活動方式：堆沙堡，閱讀，追劇……等等等等。

未來的公共討論：演算法式民主？

“自由最多的所在乃是虛空”，勃斯特羅姆在書中寫道。日常勞動的自動化並不必然導致無聊和消極，進而將人拋入意義危機的深淵，相反卻會激發出生命的意義：當一個人不再揹負著畢生的願望清單疲於奔命時，他的人生必將充滿意義。

勃斯特羅姆的論證並沒有跳出眾所周知的烏托邦敘事，然而對這個問題中真正值得探討的一點，即一個“取消了問題的世界”（此為該書標題）裡頗具危害性的政治真空，他卻語焉不詳。科技解決主義認為，人類可以像解方程一樣，透過各種APP來解決貧窮、暴力、疾病等一系列政治問題，這一假說固然是對問題的過度簡化，而蓋茨和勃斯特羅姆帶有功利主義色彩的觀點或也失於狹隘，因為即使是在勞動社會中，也同樣存在非功利性的行為，譬如學校裡的互助小組或是各種休閒娛樂活動，等等。但政治系統也會遭遇同樣的“目標難題”：當AI模擬完成了一切可能的辯論，從而徹底取消了政治爭論的目的，又會是一種怎樣的局面？

假設一款AI能夠根據網路上的海量查詢請求和回覆計算出整個社會的帕累托最優，此時人們還需要透過政黨或工會來結成利益聯盟嗎？假設在未來的某一天，一款通用人工智慧（AGI）能夠“解決”諸如退休保險計算公式一類的複雜問題，那麼由不同政府部門組成的官僚體系或者專家委員會是否可以就地解散？屆時選舉的目的何在？在一個後工具社會里，選舉這回事甚至可能沒有任何意義，因為演算法式預選已經把結果範圍儘可能縮小，以至於最終的人選幾乎已被鎖定。

“自動調溫”的社會治理

如今，將（價值）決策委託給軟體代理人的做法可謂方興未艾：亞馬遜每天向我們推薦各種各樣的書籍，臉書為我們推送個性化的新聞，ChatGPT憑藉維基百科浩如煙海的資料資源為我們解釋巴以衝突的來龍去脈……既然AI可以幫助人們做出消費決策或至少能對此施加影響，那為什麼不可以透過它來選舉呢？或許如此一來選民意願還能得到更精準的反映，因為有時候就連選民自己也搞不清楚他們想要的是什麼。

為什麼不可以直接讓AI來執政？資料即時更新的AI或許可以透過自動化的反饋閉環來實現公共治理，如同一臺完美執行的自動調溫器。透過一種搶先式管理，可以在政治訴求尚未表達和未成為政治議題前對其加以預測，並將結果輸入虛擬系統。形成政治意願的過程也將隨之變得過時，因為AI可以根據人們的政治偏好一鍵得出所需答案。人們無需再像以往那樣透過曠日持久的協商來平衡各方利益，只需藉助AI就能輕而易舉地達成妥協。然而問題是，當AI”解決”了所有的政治問題，公民這個角色豈不變得多餘？如果世界上沒有了飢餓、貧窮和戰爭，所有人都過上了幸福美滿的生活，什麼是政治問題又由誰來定義？

閒暇VS決策自由？

如果某個完美國家宣稱其不假公民之手便建立起一個理想社會，那麼這樣的政治烏托邦難免不令人生疑：在這裡，貧窮的消除不是透過經濟形式在不同個體間的合理安排以及財富的再分配，而是基於社會產品的絕對過剩。當疫苗儲備足夠充足，且AI發明出了一種新型疫苗，其蛋白質結構與計算機模型模擬出的新一代病毒變異體相一致，人們也就用不著再為誰應該優先接種或究竟哪些人屬於易感人群而爭論不休了。

當埃隆·馬斯克和他年輕的技術團隊宣稱，人類將迎來一個由AI製造的“過剩時代”時，這其中也隱含了一種極端的去政治化觀念，因為幾乎一切政治問題都能被歸結為社會分配方面的矛盾，而當分配衝突不再產生時，它也就不再是一個需要討論或是加以“解決”的問題。在一個公共討論被釜底抽薪的去政治化系統中，再也無需擔心任何有問題的操作方式會招致批評。這顯示了技術官僚主義造福機制捉襟見肘的效用範圍，它以拯救世界的名義剝奪了公民的行動力。委託軟體代理的情形越多，社會系統所受的限定就越多，行動空間也會隨之窄化。在數字烏托邦，個體將把大量的閒暇時光用在給機器輸入資料上，但他擁有的（決策）自由卻少得可憐。

阿德里亞·羅貝（Adrian Lobe）：自由撰稿人、作家，曾先後在蒂賓根大學、海德堡大學和巴黎政治學院攻讀政治學和法學，曾有幸聆聽社會學家布魯諾·拉圖爾（Bruno Latour）的“蓋婭”理論系列講座。2019年他在C.H.Beck出版的《儲存和懲罰》（Speichern und
Strafen）一書引起了諸多關注。

作者：阿德里安·羅貝（Adrian Lobe）

原標題：《AI是否預示著政治的終結？》

翻譯：史競舟

本文經Philosophie Magazin授權翻譯轉載。文章僅代表作者觀點。

原文連結：https://www.philomag.de/artikel/wie-ki-das-ende-des-politischen-einlaeuten-koennte

點選“閱讀原文”，閱讀德文版。