在超級智慧體面前,人類過於強調自己的智力,會陷入危險

歷史也許是人類的一種集體心理治療。

阿信
編輯醒醒
來源|中信出版(ID:citicpub)
封面來源Pixabay
身處人工智慧時代,我們能夠獲得資訊的方式更加多樣化,卻也沉溺在資訊的洪流裡。
當我們回看資訊網路發展變化的時候,是什麼造就了這一切?
我們在歷史敘事中看到了被串聯起來的資料時,不禁生出疑問,橫亙在宏觀歷史與具體生活經驗之間的鴻溝是否可以被填平?
當我們發現,生活可以被技術更好地梳理時,我們是否還會在意人與人之間的理解?這是否也是我們焦慮的根源?
歷史學家尤瓦爾·赫拉利看來,歷史不僅僅是對過去的研究,也是對現在和未來的研究,試圖去理解事物是如何變化的。

尤瓦爾·赫拉利
值歷史學家、哲學家尤瓦爾·赫拉利來華之際,中信出版集團聯合北京大學黨委宣傳部、北京大學國際合作部,在北京大學校內共同舉辦了尤瓦爾·赫拉利教授的學術交流活動,結合他的“人類簡史系列”作品,邀請北京大學哲學系教授程樂松對談,北京大學藝術學院助理教授劉晨擔任主持。
以下為對話內容精編:
歷史是人類的一種
集體心理治療嗎?
劉晨:我非常榮幸能作為主持人,與尤瓦爾·赫拉利教授與程樂松教授,這兩位傑出學者同臺交流,探討赫拉利教授的系列作品,包括《人類簡史》《未來簡史》《今日簡史》和他最新出版的作品《智人之上》。接下來邀請兩位老師開啟對話。
程樂松:當下是螢幕時代,我們沉浸在這種短影片和那些不嚴肅的資訊之中。然而你所創作的“人類簡史系列”著墨於理解和反思人類文明與文化的基礎。很多讀者喜歡這種從歷史出發,但指向未來的敘事方式。
我想與您探討這種現象,以及您系列作品中蘊含的深刻內涵,尤其是新作《智人之上》——它在很大程度上引發了關於"文明"本質的哲學性思考。您的創作提醒我們:作為專業學者,應回到公共領域,共同應對人類面臨的挑戰與問題。
作為歷史學家,你有如此多的讀者,對人類文明給出瞭如此有力的結構性詮釋,這是可以塑造讀者核心觀點的一個非常有力的工具。同樣,這也意味著你肩負著非常重要的道德責任,因為你塑造了你的讀者的思維。我們如何負責任地運用這種力量?你期望讀者可以從作品中獲得什麼?
赫拉利:在我所有的作品中,我都試圖幫助人們瞭解自己,幫助人們更好地理解現實。這是一項非常微妙的工作,因為人們通常急於去評判現實,評判歷史,評判過去和現在。當我們急於評判事物時,就沒有時間去理解它們。因此,在我的寫作中,我試圖去書寫歷史,但不指出反派,不指出好人與壞人,而是去深刻理解變化過程。
我有時會感覺,歷史也許是人類的一種集體心理治療。
我每週都去做心理治療。人們可能會驚訝,為什麼人們需要去做心理治療?因為治療的主體就是我自己,誰比我更瞭解自己呢?為什麼我需要去找陌生人來了解我自己?這聽起來很荒謬,但事實並非如此。
因為,我對自己的瞭解可能比其他人都多,但也有很多方面是我並不想了解的。比如在我生命中那些更加痛苦、黑暗的片段等。就像一個人處於一段關係中,會說自己是完美的,是另一個人引發了所有的問題。這就是我需要去心理治療的原因,去接受專業的幫助,認識到自己內心深處真相,去承認那些痛苦的事情。

赫拉利教授與北大師生對話現場。照片來源:北京大學融媒體中心
對於整個文明或者對於整個人類來說,歷史同樣像是一種心理治療。一個國家往往不願意承認自己過去的黑暗片段或現在正在做的黑暗事情。整個文明也是如此。
我認為歷史學家應負起責任,不要互相指責,而要單純地幫人們更好地理解世界中的大問題及其根源,這是一項重大的責任。
程樂松:我非常贊同你的觀點,因為你剛剛指出了人類的核心價值。人類的核心價值不是提供任何準確的知識,不是讓世界變得透明。其實,最重要的是,透過人性和反思,我們引導人們不要匆忙地做出任何判斷,嘗試過一種慢生活,尤其是在思想層面。鑑於人性的複雜性,不同敘事框架可能交替主導,或在認知層面出現偏頗與片面,這恰恰凸顯了審慎思考的必要性。

程樂松教授。照片來源:北京大學融媒體中心
為什麼會這樣?因為我們理解的角度有限。你在你的作品中,很大程度上是在試圖給人們提供一個非常謹慎的、精煉的警示,即敦促我們尊重,但絕不盲目地相信我們不完美的人性。
如果我們把目光轉向所謂的科技發展,以及因為人工智慧技術而正在發生的巨大變化,我們會發現,問題不僅僅在於技術本身。正如辛頓所指出的,最重要的是這項技術的濫用,而不是技術本身。這在很大程度上將我們引向了在政治哲學中一個非常重要的問題,我們稱之為技術統治論。而那些致力於開發人工智慧技術的人,實際上已經對人類建立起了一個系統的技術暴政。
你的書試圖敦促我們反思人的缺陷,但人類的這種缺陷正是我們區別於機器的關鍵。因為我們有情感,有慾望,所以這在很大程度上促成了一個對未來既特別、又正確的態度,我稱之為適度樂觀,即你不應該過於樂觀,但也絕不能把它說成是悲觀的。
不信任人類,卻幻想相信
一個新物種,是不責任的表現
赫拉利:我經常被問到這樣一個問題:我對未來是悲觀還是樂觀?我總是說我兩者都不是。悲觀主義滋生絕望,但樂觀也同樣可以變得危險,因為它會滋生自滿情緒。
我試圖找到一條負責任的中間道路。這不是樂觀主義或悲觀主義,而是意識到我們面前可能有不同的未來。我們可以繪製一張不同未來的地圖,有好有壞,沒有什麼是確定的。這需要有足夠多的人來做出正確的決定,才能到達正確的目的地。
縱觀當今世界,我對世界各地許多政界和商界領袖所表現出的缺乏責任感感到震驚。人類似乎正朝著一個非常危險的方向發展。而此時此刻,由於人工智慧革命的到來,責任比以往任何時候都更加重要。我們正在創造的不僅僅是歷史上最強大的技術,而是一個潛在的新物種——超級智慧,它們可能很快就會奪走我們的控制權。我們只有幾年時間來做對這件事。
當我周遊世界並與人工智慧革命的領導者交談時,就像他們問我“你持樂觀還是悲觀態度?”一樣,我以兩個問題來反問他們。
第一個問題是,你們為何如此心急?為何不給人類留出必要的時間來適應和反思以更審慎和安全地發展這項技術?他們的回答驚人地相似。
他們(人工智慧革命的領導者們)回答說:“我們知道有很大的風險。我們也希望可以循序漸進,但我們不能相信我們的人類競爭對手。如果我們放慢腳步,而其他公司或國家不慢下來,他們就會贏得這場人工智慧競賽並主宰這個世界,這個世界將會被最無情的人統治。我們不能允許這種情況發生,所以我們必須加快速度。”
然後,當我與他們的競爭對手交談時,也會得到相同的答案。大家都聲稱不相信其他人。

尤瓦爾·赫拉利教授。照片來源:北京大學融媒體中心
於是我問了他們第二個問題,那你是否相信你們所開發出來的超級智慧體?這些剛才還口口聲聲說不相信同類的人,突然轉向說:“我們認為超級智慧體是可以信賴的。”
這樣的對話真的讓人感到精神錯亂。因為我們知道人與人之間相處會有各種麻煩,但我們對人類的心理和生理有較為全面的瞭解。在歷史上,我們經歷的不僅有暴力和戰爭,也有信任的建立。
人工智慧作為一種前所未有的技術,在開發之初我們已經知道它可能具備撒謊、欺騙和操縱的能力。然而,我們無法預測當數以百萬計的超級智慧體被部署到金融系統、軍事系統和文化領域時會發生什麼。因此,那些對人類失去信任卻幻想可以依賴一種陌生的超級智慧體的人,其行為是極其危險且不負責任的。
程樂松:當你是一名工程師時,你創造了某種技術,你自然會自信地說:“我可以控制它。”當我們面對人工智慧時,它是一個黑匣子,我們不知道那裡會發生什麼。如果人工智慧引擎中存在某種主觀性,我們稱之為“主觀性”,它們是否會有自己慾望,是否會有想做某些事情的意願,是否產生自己的價值體系,是否有自己的價值偏好?所有這些問題都超級危險。
我認為問題在於,當我們聲稱無法相信其他人的時候,這意味著我們瞭解何為人類,瞭解人性。但如今,我們仍在探索什麼是AI,這一新物種的新定義。這實際上是把我們引向了關於矽基生命和碳基生命之間的區別。我們對碳基生命有著明確的定義,儘管有一些可觀察到的現象,比如我們正在活著之類的。但碳基生命的一般定義是我們終有一天會死。這個定義構成了人性的基礎。死亡的必然性,對群體的依賴性以及對不確定未來的焦慮,這些都導致我們對人類的理解不充分。而人與人之間的相互信任是人類歷史上最昂貴的東西。
如果說,是智力讓人類與動物區分開來,我們是一種擁有智力的物種,那麼讓我們與AI智慧體區分開的,是因為我們有情感,我們存在缺陷,我們有侷限性。
中國哲學告訴我們,最重要的事情是人必須認清真正的自我,有情感、有侷限性的真實自我。我們不可能無所不知。當我們面對他人和未來時,應該非常謙虛。因此,這在很大程度上是中國古代的智慧。而且,這就是你所說的責任。責任不僅僅來自對於一種社會機制,還來自對於自己的認知以及人的本質是什麼。
過於強調智力培養正在變得危險
赫拉利:我認為,關於人類的一個非常重要的觀點是,我們常常以智力優勢來作為區分人與動物的核心標準。我們感覺自己比所有動物都更高階。我們為什麼更加高階?我們在身體、體力上並無優勢,但我們認為自己比其他動物更聰明。所以,在認識我們自己的過程中過於強調智力和聰明才智,這種認知正變得越來越危險。因為地球上即將出現比人類更聰明的智慧體。所以,如果只強調智力,人類可要完蛋了。

赫拉利教授與北大師生對話現場。照片來源:北京大學融媒體中心
我可以分享一些我的親身經歷,這段經歷給了我一個慘痛的教訓,讓我明白智力不是我們生命中最重要的東西。
在我年少的時候,學校發現我很有天賦,就把我從家附近的學校選拔到特殊的天才學校。因為這是一所為天才學生創辦的特殊學校,所以大家都把我們視為會走路的智慧體。我們根據智商高低被評判,但問題也隨之而來。
在老家學校的時候,我總能不費吹灰之力地在所有科目上做到最好,無論是數學、閱讀、寫作,還是別的一切。因此我有大把時間玩耍和做其他事情,同時我的地位還能輕而易舉得到保證,穩坐全班最聰明孩子的交椅。我的身份定位是我是班上最聰明的孩子。可是突然間,我和其他30個天才兒童在一個班級裡,他們都把自己定義為班裡最聰明的孩子。
當30個同樣聰明的10歲孩子組成一個班級,課堂就成為了一個角鬥場。這樣的日子持續了數年。天才班的邏輯是隻關注開發孩子們的智力,沒有人在意培養社交技能、發展情感技能,以及增強體質和訓練身體技能。
雖然我現在能一笑置之,但那真是一段非常痛苦的經歷。當我們離開學校時,我們的智力得到了長足發展,但社交技能卻非常欠缺。
據我所知,我們班上的一些同學至今還沒有擺脫那段時光帶來的陰影。這段經歷讓我深刻意識到,我們不能僅憑智力技能來定義或者培養一個人,因為人生還有很多更重要的東西。人生的本質在於感受,而不僅是認知能力。
程樂松:剛才你回憶了你兒時的學校,在童年時代你是班上最聰明的學生,但當你一旦進入這座校園後,就會發現自己只是平均水平。這個認知過程是一個非常艱難的心理轉變過程,尤其是在第一學年第一學期。你必須接受你自己是個普通人的事實,接受你在大多數老師眼中平平無奇,你並不是那麼聰明。你曾經用來炫耀的小聰明現在看來毫無意義。這就讓我們得出了一個重要的論點,即人之所以為人,是因為我們有缺陷,因為我們擁有許多與智力無關的東西。
當我們說,我們試圖控制某些有智力而且可以輔助我們的東西時,我們仍然基於一種重要的推理模式,基於工具推理。我們試圖將其視為工具,而非一個主體。如果你把它視為工具,那麼實際上你就會陷入現代性陷阱。現代性陷阱指的是不斷追求效率,以更快速度處理事情。當你面對各種不同的競爭,這些競爭對手可能是其他人、其他公司、其他國家等等,所有這些都與競爭有關。
現在,我們又面臨了一場新的競爭——與AI競爭。它是一個新型的、可疑的、可以提供支援的智慧對手。它讓我們陷入了恐慌。而這種擔憂引發了我們對歷史的反思。因為幾千年來,人們的焦慮總是來源於同樣的事情,那就是未來的不確定性,以及我們該如何負責任地採取行動來應對正在發生的變化。
對我來說,這不不僅僅關乎技術,也關乎我們對人類缺陷的深層次認知。我們應該全面瞭解我們的侷限性,然後謹慎地邁向未來。正如今天討論的主題,理解即解藥。在採取任何行動之前,你首先必須進行深入反思。但現在我們過於貿然採取行動。我們過於草率地投入了一場新型的競爭。這在很大程度上就是我所說的現代性的後果。我們實際上面臨的並不是所謂與AI競爭,而是在與我們自己競爭。
赫拉利:也許我不會把所有責任都歸咎於現代性,因為在古代也有類似的事情發生。我對道家思想知之甚少,所以我很樂意聽你的講述。但是至少在西方歷史上,幾千年前發生過類似的事情。你提到了人們的恐慌,人們害怕失去控制力,害怕一無所知。這種恐慌驅使人們探尋絕對可靠的東西。
對超級智慧的幻想並非是最近或幾十年前出現的。至少在西方,對超級智慧的幻想可以追溯到幾千年前。那時,人類渴望找到他們的超級智慧體:救世主、彌賽亞、上帝。他無所不知,絕對正確,我們可以依賴他。因為人類無法依賴自己。這一幻想催生了首個源於幻想的人造物,現在這仍是世界上最重要的人造物之一,那就是聖書。進而,世界上出現了一批解讀文字的專家。
而如今,一個有趣的變化正在發生,至少在上述宗教中是如此,那就是文字開口說話了。AI已經掌握了語言的用法。
這是我作為歷史學家對這一切的看法:不僅僅是現代性,整個人類的歷史都在為AI變革提供了養分。這場變革可能會帶來意想不到的後果。
程樂松:在道家思想中,這種情況截然相反。我不是要把所有的責任都歸咎於現代性。顯而易見地,現代性是西方傳統的產物。但中國的情況卻完全不同。因為道教思想是一套複雜的思維體系。
讓我從一個非常簡單的句子說起,那就是《道德經》開頭這句“道可道,非常道”。這句話意思是說你能言說的事情並不是一成不變的。在我看來,這意味著權威有一個非常有趣的定義。你剛才提到的,權威是絕對正確的。作為深受道家思想影響的中國人來說,我們實際上有前提假設。
首先,作為普通人,我們的理性有明顯的侷限性,我們不會說能夠控制或掌握宇宙的終極真理,掌握一切。這是因為我們是人類。
是否存在我們可以依賴的、看起來永遠正確的權威呢?是的,我們對過去的事情有某種記憶,比如聖賢。在由聖賢統治的黃金時代,聖賢知道所謂宇宙的內部精確的執行機制,那就是事物在變化。在道家思想看來,萬物都在變化之中,萬物都是流動的。沒有任何一種制度和規則可以應用於人類歷史的所有時期。因此,你必須依靠最初的文字。
但你不可完全依賴於它。你可以閱讀並學習文字,然後學以致用,但並不代表你所學到的制度和規則是永遠正確的。
所以最重要的是,對於中國人,尤其是對於道教徒來說,必須以開放的心態對待變化,對待宇宙的終極規則。我們可以這樣說宇宙是永恆的,思辨是真實的。現代性是西方傳統的保護者,存在著不足之處,那是它認為存在有絕對的制度和規則,存在絕對的廣泛適用的機制,可以支配我們看到的一切。
中國傳統思想認為,世界上並不存在廣泛適用的正確的絕對真理。因為宇宙萬物都在變化之中。雖然宇宙是一個整體,但並不存在可以獲知或掌握的終極和廣泛適用的規則。這就是為什麼我會說中國人對變化保持謙卑之心。
我們一貫將學習和實踐相結合,學習並將所學付諸於實踐,在實踐中得到反思,再回到文字,然後根據實踐和從文字中學到的東西採取行動。因此,這在很大程度上是一種中國的風格。這就是為什麼我稱中國風格與西方的截然不同。這也是為什麼我們可以從東方來源中汲取東方思想,找到應對現代性問題的方法。這就是為什麼我們應該拓展我們的智力,互學互鑑,相互理解。
理論與實踐的差距是否需要填平?
赫拉利:佛教中也有很多論點和你提到的道家思想相似,比如我們必須認識到人類的侷限性。世界上並沒有可以掌握的絕對真理。萬法皆空。你必須在實踐中領悟,但不能執著於文字。事實上,人們只是在不斷地背誦文字,即使在寺廟中,僧人們的修行仍是記憶本文,宗教權威成為解讀文字的權威專家。文字本身寫著不要依賴文字,專家也會這麼告訴你。
我想起了一個著名的佛典故事,講的是一名僧人在林中冥想,他的附近棲息著一隻鸚鵡,僧人想保護鸚鵡的安全。
所以他對鸚鵡說:“你要小心啊。在這片林子裡的某個地方,有一個獵人在來回地巡視,他會在地上撒下穀粒。你看到穀物,就會被吸引飛到地上,只要你啄食這些穀粒,就會落入獵人設下的誘捕網,他就會捉住你。”
“鸚鵡要小心,獵人要來了。”僧人不斷重複這句警告,因此鸚鵡學會了這句警告,於是它站在枝頭,不斷地重複這句話。
直到有一天,獵人來了,在地上撒下穀粒,鸚鵡被穀粒吸引,飛到地上去啄食穀粒。此時獵人打開了陷阱,鸚鵡被捉住了。在整個過程中,甚至當獵人抓著鸚鵡,準備殺死它時,鸚鵡一直在說:“鸚鵡小心啊,獵人要來了。”
程樂松:你剛剛提到了一個關鍵的問題,即理論與實踐之間的差距。這個問題與人類的基本需求有關。我認為,人類的基本需求是需要理解外部世界,理解其秩序。這種理解能夠帶領我們建立起智力上的認知。但在現實生活中,人們不得不向眼前緊迫的需求妥協。這種妥協成為了我們日常生活的一部分。所以,我們不能說,因為理論與實踐之間存在差距,從理論上去理解整個世界就是無用的。但我們對意義的追求構成了秩序的基礎。我們必須知道自己在做什麼。
你剛才還講到,我們的行為必須要有意圖。在我看來,我們對於人生的意義也有系統的理解。這種意義實際上是建立在秩序的基礎以及對秩序的承認之上的。有了秩序才有我們所謂的知識。根據這一邏輯,我得出結論,即針對理論與所謂實踐之間的差距,我們更應重視反思的能力與理論建設的能力。因為我們要在兩者之間取得平衡,我們必須對理論進行反思,這樣才能避免被誤導而做出錯誤的行為。
人類是一種複雜的存在,我們不能說只存在一個極端。正如我提到的中國哲學家一樣,最重要的是我們需要在極端之間取得平衡,而不是說只要存在差距,我們就必須將它填平。
赫拉利:但在歷史的當下,我們究竟能做什麼?幾千年來,哲學家們進行了大量像我們這樣的討論,這些內容非常重要,但也並非絕對。因為歷史程序還在不斷演進。人類建立了不同的秩序,之後經歷秩序的崩塌,人類再次建立起新的秩序,新的秩序維持一段時間後又再次崩塌。如此迴圈往復持續了數千年。而我擔心的是,我們即將走到了這條路的終點。我們經過了數千年的哲學和歷史積澱下來的智慧,需要立即付諸實踐,否則就來不及了。
我們不知道還有多少年,專家們所說的通用人工智慧就要出現了。它不是你們智慧手機上的 DeepSeek 或 ChatGPT 這種AI程式,而是一種全方位超越人類的智慧體。它不是專攻某一領域,而是全知全能。它一旦成為現實,我們就會失去掌控權。
比方說,我們正在進行這場對話時,天文學家告訴我們,他們觀察到了一支來自其他太陽系的外星艦隊正在駛來。根據天文學家的計算,這些外星人將在5到15年內登陸地球。我們對他們一無所知。也許他們會幫助我們攻克癌症,化解氣候危機,也許不會。但我們只有五到十五年的時間來思考對策。此刻,我們人類數千年來積澱的所有智慧傳統教會了我們什麼?我認為這個時刻不同於歷史上任何時刻,雖然歷史是變化的過程,但這一次的變革也許將把我們排斥在外。也許這將是人類文明的終點站。
程樂松:人類的優勢正是我們存在的缺陷,因為我們並不完美。我們可以構想完美的事物,但我不認為我們會被人類創造文明所取代,不會被某種超級智慧體所取代,因為我們擁有情感。
我實在無法想象,矽基生命如何有想法,擁有慾望和意圖想要消滅我們,或者對人類進行統治。因為我們之所以產生慾望,是因為我們強烈地感知到了自己的不足,感知到了我們的不完美。因此,我可能比你更樂觀。
赫拉利:我不知道AI或AGI是否會產生意識甚至是情感,這也許是我們的終極之問。我只是覺得,實現一個目標並不一定需要情感,沒有情感也可以獨立行動。當你給AI一個目標,或者AI自行產生一個目標,他們就會做事來達到目標,而不需要任何情感或慾望。如果你有一輛自動駕駛汽車,你可以給這輛車一個目標,讓它以最快的速度到達火車站,而這輛汽車可能在路上撞向行人。因為設定了“以最快速度到達目的地”的目標,卻沒有告訴它“途中不要撞死行人”。
類似的例子有很多,最著名的例子就是社交媒體上發生的事情。社交媒體公司給很早期的AI下達指令是要求它們提高使用者參與度,增加使用者粘性。而演算法卻開始在網上傳播仇恨和恐慌,進而引發了社會的動盪。因為演算法發現,提高參與度的最簡單方法就是散播恐慌、仇恨和貪婪。它們並沒有任何慾望,沒有任何情感,但它們可以有一個目標,並在實現目標的道路上不擇手段。這對於我們來說是危險的。

尤瓦爾·赫拉利“人類簡史系列”白金紀念版,包含《人類簡史》《未來簡史》《今日簡史》《智人之上》四本書。
我們擁有情感和感覺,這意味著我們會遭受很多痛苦。意識的終極定義是什麼?我認為意識的最終定義是感知痛苦並從苦難中解脫的能力,但這並不是什麼護身符。奶牛能感知痛苦,而我們並沒有仁慈地對待它們,其他動物也可以感知痛苦。眾所周知,我們並不一定就是邪惡的,但許多動物在我們無意識的行為中被毀滅了。所以超級智慧體可能會擁有各種目標,也並無惡意,它們甚至都沒有任何情感。它們只是在奔向目標的過程中從我們身上碾過。
我還想說,這次的對談是我最近參加過的最有啟發性的討論之一。我之所以要進行這樣的討論,寫《智人之上》,是因為我認為人類需要做出也許是人類史上最重要的一次抉擇。
目前,幾乎很少數國家的很少數人能夠理解正在發生的事情,參與進這樣的討論。大多數人只是聽說過AI,但對AI革命的認知遠遠不足,不知道將面臨的危險,也覺得自己沒能力參與討論。我無法告訴大家有哪些解決方案或應採取哪些政策。我的認知也非常有限。
我的使命是讓更多國家和更多人對AI革命有一個基本瞭解,瞭解它會帶來怎樣的風險,從而讓更多國家和更多人積極地參與到討論中來。當我們聽到更多意見,受到更多關注,擁有更豐富的世界觀,我們就能做出更好的抉擇。
目前,真正窺見全貌並手握決策權的人,並不是能代表普羅大眾的人。他們大多是大型人工智慧公司的領導者,這對人類來說非常危險。這就是我的初衷。我希望大家能受到激勵,並積極地參與到討論中來。因為有關AI的討論關係著你們的未來,關係著所有人的未來。


相關文章