傑弗裡·辛頓（Geoffrey Hinton）現場圖。本文來源：澎湃新聞

本文轉載自：New Economist

“AI教父”辛頓：人類對AI沒有“擺脫”這一選擇，但應該找到“馴服”辦法

7月26日，2025世界人工智慧大會（WAIC）正式開幕。圖靈獎得主、諾獎得主、“AI教父”傑弗裡·辛頓（Geoffrey Hinton）發表主題演講再談AI（人工智慧）安全。

辛頓表示，人類理解語言的方式實際上很像大語言模型，因此人類實際上很像大語言模型，也會產生幻覺，經常編造東西，特別是當他們試圖回憶很久以前發生的事情時。但他也指出，大語言模型與人類非常不同且優於人類的是，計算機科學的一個基本原則是，應該將軟體與硬體分開，正是這一點讓人們可以在不同的硬體上執行相同的程式，它使得計算機科學能夠成為一個獨立於電氣工程的領域，如果你做到了這一點，那麼程式中包含的知識就是“不朽的”。

辛頓進一步解釋稱：“如果你能把程式儲存在某處，或者能把神經網路的權重儲存在某個地方，那麼你現在就可以銷燬執行神經網路的所有硬體。只要你有權重儲存在某個地方，你現在就可以建造新的硬體，並且因為計算是數字化的，你可以在這些新硬體上執行完全相同的計算。所以在這個意義上，數字計算機的程式是‘不朽的’。”

辛頓同時指出，數字計算需要大量能量，但它使得擁有完全相同權重的智慧體（Agent）能夠非常容易地共享它們從不同經驗中學到的東西，生物計算需要的能量要少得多，但共享學到的東西卻很困難。如果能源很便宜，數字計算就會好得多。

“這讓我非常擔憂，因為幾乎所有的專家都相信我們將製造出比我們更聰明的AI。我們如此習慣於作為頂尖智慧，以至於很多人難以想象一個AI比我們更聰明的世界會是什麼樣子……”辛頓表示，想知道非頂級智慧體的感受？不妨問問雞的生存體驗。

辛頓認為，我們正在創造AI智慧體是因為它們更擅長完成任務，這些AI智慧體已經具備創造自己子目標的能力。而一旦擁有創造子目標的能力，智慧體就會想做兩件事：一是生存，僅僅是為了能夠實現我們賦予它們的目標；二是更多的控制權，也僅僅是為了能夠實現我們賦予它們的目標。因此，人類將會擁有想要生存和想要更多控制權的智慧體，“而且我們將無法簡單地關閉它們，它們會發現操縱使用它們的人非常容易，我們將像三歲小孩，而它們將像成年人，所以我認為那種當它們比我們更聰明時，我們就能讓某人把它們關掉的想法是不切實際的，它們將能夠操縱我們，並說服那個應該關掉它們的人不要那麼做”。

辛頓將人類目前的處境比作養小老虎當寵物，小老虎非常可愛，能成為很好的寵物，但需要確保當它長大後它不想吃了你。“一般來說，養小老虎當寵物是個壞主意，有兩個選擇：想辦法訓練它讓它永遠不想吃了你，或者擺脫它。”辛頓表示，對於AI，我們沒有擺脫它的選項，AI對醫療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業提供幫助並使人類更具生產力。

辛頓表示，如果人類想要生存，必須找到辦法訓練AI，不要讓AI消滅人類。

辛頓指出，目前沒有一個國家希望AI接管，每個國家都希望人類繼續保持掌控權，如果任何一個國家找到了防止AI接管的方法，他們會非常樂意告訴所有其他國家。因此，他建議建立一個由AI安全研究所和協會組成的國際共同體，致力於研發訓練AI向善的技術，實現訓練AI向善所需的技術與訓練AI變得更聰明的技術，在某種程度上是分離的，讓一個真正聰明的AI不想接管世界，即使它比大多數人聰明得多，也非常樂意處於人類的輔助角色。

“我們目前根本不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好訊息是，這是一個所有國家都應該能夠合作解決的問題。”辛頓最後如是說道。

2024年10月8日，瑞典皇家科學院宣佈，將2024年諾貝爾物理學獎授予美國普林斯頓大學的約翰·霍普菲爾德和加拿大多倫多大學的傑弗裡·辛頓，以表彰他們“為推動利用人工神經網路進行機器學習作出的基礎性發現和發明”。辛頓是卷積神經網路理論的領軍人物，也被視為由ChatGPT掀起的本輪AI技術躍進背後的奠基性科學家，被譽為“AI教父”。

辛頓在卡內基梅隆大學任教五年，後來成為加拿大高等研究院的研究員，並進入多倫多大學計算機科學系任教。辛頓在2013年加入谷歌。因其在深度學習方面的貢獻，他與約書亞·本希奧和楊立昆被一同稱為“深度學習三巨頭”，三人在2018年被授予了圖靈獎。2023年5月，辛頓從谷歌離職。自那以後，他持續公開呼籲謹慎對待AI技術，成為旨在引導AI系統、使其行為符合設計者利益和預期目標的“AI對齊派”的代表。

本次世界人工智慧大會以“智慧時代同球共濟”為主題，共規劃了超100場專業論壇，匯聚1200餘位全球專家，12點陣圖靈獎、諾獎得主，大會將持續至7月28日。