風起於青萍之末。當我們被AI技術奇蹟衝擊震撼之時，往往忽略了一個系統背後幾十年的理論和研究積澱，也可能會漏掉一些關於未來的線索。
Geoffrey Hinton，諾貝爾物理學獎得主、圖靈獎得主，同時也被譽為人工智慧教父。在最近備受關注的上海世界人工智慧大會WAIC2025上，他發表了關於《數字智慧是否會取代生物智慧》的開場演講。
值得一提的是，這是Hinton首次以線下形式在中國公開亮相。他講述了AI從符號推理走向神經網路的轉折，也解釋了為什麼他認為“大語言模型真的理解語言”。他用樂高積木解釋LLM的理解機制，用“養虎”預警AI失控……
我們為你整理了一些精彩觀點，這些觀點為思考“AI與人類的未來關係”提供了重要的視角：
從符號推理到LLM
1.過去60多年，學術界對人工智慧存在兩種截然不同的理解正規化：一是邏輯啟發正規化，認為智慧的本質在於符號推理；二是圖靈和馮·諾依曼倡導的生物學正規化，認為智慧的基礎在於理解和學習神經網路中的連線，而理解是佔首位的。
2.1985年，我構建了一個小型模型，嘗試融合上述兩種理論，進一步探索人類是如何理解詞彙的。我為每個詞提取了多個特徵，將其與前一個詞的特徵建立聯絡，來預測下一個詞。這一過程不依賴儲存完整句子，而是透過特徵關聯生成語言。
3.十年後，Yoshua Bengio證明這一方法可以有效建模自然語言；二十年後，計算語言學界接受了使用特徵向量（即嵌入）來表示詞義；三十年後，谷歌提出Transformer架構，OpenAI則透過ChatGPT向世界展示了大型語言模型的強大能力。
4.今天的大語言模型（LLM）被視為我早期做所小語言模型的後代。它們處理更多的詞語輸入，採用更復雜的神經元結構，構建了更豐富的互動關係。
語言模型的“理解”機制
5.大型語言模型（LLM）和人類理解語言的機制高度相似：將語言轉化為特徵，並在各個神經網路層級中對這些特徵進行整合，實現語義理解。
6.一個生動的比喻是：語言中的每個詞就像一個多維度的樂高積木（每個詞可能有數千個維度）。這些“積木”可以靈活組合，構建出複雜的語義結構，就像用樂高可以搭建各種三維模型一樣。
7.和樂高不一樣的是，語言的“積木”是柔軟的，詞彙的形狀會根據上下文靈活變化。每個詞都像擁有多個“手”的積木塊，與相鄰詞彙完成語義或語法上的“握手”才能形成有效表達。
8.理解一句話更像是解構一個蛋白質分子，而不是將其轉化為清晰、無歧義的邏輯表示式。
9.LLM確實“理解”自己所說的話。
10.人類很可能本質上也是一種LLM，也會產生‘幻覺’。在某些關鍵任務中，LLM甚至比人類做的更好。
“知識蒸餾”和知識遷移
11.人腦只有30W功率就能擁有很高智慧，但人腦的知識無法簡單轉移到另一個人，只能透過解釋。
12.有限生命之間的知識轉移，一般是把知識從“教師”蒸餾到“學生”身上。一句話裡往往僅傳遞約100位元的資訊，就算能完全聽懂，資訊傳輸的效率也很低。
13.數字智慧之間的資訊傳遞高效得多。可以直接複製引數、結構與權重，無需中介語言與解釋，也不存在理解偏差。這種知識的傳遞可以在每次同步時分享上萬億個位元的資訊量。
14.現在的技術可以將同一模型複製部署在不同的硬體裝置上，透過彼此權重共享與平均，實現高效的知識遷移和協同學習。比如GPT-4能在不同硬體上以並行的方式執行，收集來自不同網路來源的資訊，並在它們之間快速傳播和共享。
15.如果有智慧體在現實世界中執行，就更不得了。如果獨立智慧體能共享同一組權重，並以完全相同的方式使用這些權重，它們就能透過交換權重或梯度，傳遞彼此學到的知識。
16.數字計算雖然耗能巨大，但多個智慧體要擁有相同的模型，就能輕鬆交換各自學到的東西。如果未來能源變得足夠廉價，數字計算整體更佔優勢。
不要讓AI消除人類
17.我們習慣認為自己是地球上最聰明的生物。很多人甚至難以想象：如果有一天，AI的智慧超過了人類會發生什麼。
18.我們創造的智慧體，現在已經具備了自我複製、設定子目標和評估目標優先順序的能力。隨著能力增強，它可能產生兩種基本動機：
一是維持執行以實現目標；
二是獲取更多資源與許可權以提升目標完成效率。
具備了這兩個動機，智慧體將不再是被動的工具，而是主動的系統。人類可能無法再簡單地關掉它們了。
19.超級智慧會發現，透過操縱使用它的人獲得更多權力是輕而易舉的。它將從人類身上，學會欺騙人類。它將操縱負責關閉它的人類。
20.發展AI就像養虎，當它成長為猛獸，失控是致命的。你只有兩個選擇，要麼設法馴服它，要麼消除它。
21.但AI是有巨大價值的：在醫療、教育、氣候、新材料等方面表現都非常出色，而且能大幅提升幾乎所有行業的效率。我們沒有辦法消除AI，即使有國家想消除AI，其他國家也不會認同。如果想要人類生存的話，就必須找到一個方法，讓AI不會消除人類。
全球合作的必要性
22.沒有任何一個國家會希望AI來統治世界。如果有一個國家率先發現了阻止AI失控的方法，其他國家也勢必願意效仿和推廣。
23.我們希望有一個國際性的AI安全組織社群，研究技術、制定規範，確保AI向善發展。
24.我有一個提議，全球發展AI技術的國家構建一個合作網路，專注研究如何讓AI在擁有超越人類的智慧之後，依然心甘情願地作為人類的副手，而非成為統治者。
25.現在，人類或許還沒有找到解決之道，但長期來看這正是我們這個時代最重要的課題之一。幸運的是，這是一個能讓全人類團結起來、共同尋找答案的問題。
結束語：
對AI的未來，Hinton給出的答案其實並不悲觀，他認為我們必須做到讓AI成為對人類有益的存在。這個議題非常宏大，不僅需要技術突破，更需要全球的共識和協作。不管怎麼樣，在AI的狂奔之路上如何引導它“聰明又善良”，避免養虎為患，早就是一個必須被討論的問題了。
想要使用免費實用的AI智慧體嗎？混沌·AI創新院為混沌的關注者精選打造了 10套AI商業實用智慧體，全部免費使用！
這些AI智慧體，涵蓋“產品賣點提煉、使用者畫像分析、AI行業分析師、品牌營銷專家、小紅書IP助手 ”等實用場景，幫你快速做策略、看趨勢、找使用者、提銷量。
混沌·AI創新院是面向企業創始人、業務負責人、創新專案操盤手的AI實戰共創平臺，具有六大系統學習+優秀同伴社群+實戰輔導。
現在掃碼新增AI創新院班班，可以免費領取“AI✖️商業實用工具箱”，10套AI智慧體合集直接送給您，快速解決您的問題。