▲點選圖片報名，抓住風口（iOS使用者請用電腦端開啟小程式）
本期要點：社會化AI——馬斯克所忽略的智慧進化必由之路
你好，我是王煜全，這裡是王煜全要聞評論。
最近，忙於美國政府效率部（DOGE）事務的埃隆·馬斯克，居然還抽空參加了知名的播客節目《Joe Rogan Experience》（喬·羅根體驗秀），並再次丟擲驚人言論。
馬斯克認為，在幾年內AI就會超越最聰明的人類，到2029或2030年，AI就會比所有人類加起來都聰明。屆時，人類要麼在AI的幫助下過上無比美好的日子，要麼就會被滅絕。他估計，好結局的機率為80%，滅絕的機率為20%。
這個言論確實有些驚人！但作為位高權重的“大嘴巴”，以及科技產業的重要人物，馬斯克總是自帶權威光環。
但在我看來，馬斯克這次的說法基本不靠譜，成真的可能性恐怕連萬分之一都不到。以現在人工智慧發展的正規化，其認知水平短時間內難以超過個人，就更不用提超越整體人類了。其中的原因，今天的思想薈文章就來好好深入探討一下。
首先，我們需要回到人工智慧和認知科學的源頭。
1986年，人工智慧的先驅之一，MIT（麻省理工學院）的馬文·明斯基教授（Marvin Minsky），在其著作《心智社會》中提出過一個革命性觀點：人類的意識不是單一機制的產物，而是大腦內部無數“智慧體”（Agents）透過社會化的活動而形成的。
就像孩子搭積木時，負責空間定位的Agents可能與重力感知的Agents產生互動，並透過神經網路的“投票”機制協調行動。
馬文·明斯基教授
明斯基教授在後來的《情感機器》中進一步強調，人們的每個決定都是“辯論”的結果，區別在於有些“辯論”僅持續幾納秒，有些延續半生。
當然，我們的腦子裡面肯定是沒有“Agents”這些器官，明斯基教授只是用“Agents”來具象化人們形成認知的過程。
不過，神經科學研究確實為這個認知過程提供了一定的支撐。有研究表明，人腦前額葉皮質中的神經元所構成的分散式網路，本質上就是一個動態協商系統；杏仁核與海馬體在決策過程中的資訊交換，也呈現了辯論的特徵；而人類的下意識決策，也是基底神經節與丘腦間數百個"微型議會"的協商結果。
此外，大家也可以回顧一下我去年推薦的《科學美國人》那篇文章：《Building Intelligent Machines Helps Us Learn How Our Brain Works》（構建智慧機器幫助我們瞭解大腦的工作原理）。
說了這麼多，其實就是為了讓大家明白，現在的AI還遠沒有做到人類這樣的決策過程，就更不要提短時間內超越我們了。
當前的AI大模型，主要還是靠海量文字語料庫訓練出來的。它們雖然能生成語法正確、邏輯連貫的文字，但其實並不真正理解其中的意思。就像大家經常碰到AI語音讀錯中文多音字，就是因為它們沒法根據社會語境選對發音。
人類對話中大部分的語義往往還需要依賴肢體動作、表情、語氣以及情境暗示，但AI只能處理文字，必然會丟失大量重要資訊。就像情侶用微信溝通，經常會產生誤會，AI也不能真正明白語言背後的情感，就更不用提讓它們理解如社會規則、價值觀、人生觀等更深層的意義。
當然，之前OpenAI透過人類的反饋，讓AI在生成文字時也要符合人類的規則或價值觀，給大家了一種AI有了“人味”的感覺，但本質上還是“鸚鵡學舌”。
而且，人類的學習可不僅僅靠語言。幼兒透過扔東西來理解物理規律，其實際效果遠超AI閱讀力學論文，這是我們人類智慧“內部社會化”的優勢所在。
所以，我們認為，學習人類的決策方式，將視覺、聽覺等各方面的感知變成獨立的AI Agents，眾多AI Agents同步對真實世界進行長時間、大規模的“多模態”觀察和互動，共同做出決策，才能形成對世界的正確認知，才有可能跨越當前的天花板。
然而，這件事顯然還只是在起步階段，短時間內很難實現。所以，馬斯克預測AI將在未來幾年內超越人類，也就明顯不可信了。
不過，我們進一步想強調的是，哪怕AI在單體智慧上實現了認知和決策的“內部社會化”，距離超越全人類還遠得很，因為人類智慧的躍升也不僅依賴“內部社會化”。
就像幼兒在扔東西的同時，還會觀察母親的表情，透過無數次與外部社會的互動，學會解讀情緒，理解人與人的關係和社會規則。
最關鍵的是，科學的發展並不是個人靈光一現的產物，而是人類互動的結果。
量子力學、遺傳學等領域的突破，都是全球科學家思想碰撞與協作的成果。往往互動的群體越專業、互動得越頻繁、互動範圍越廣泛，相關領域的科學知識發展就越快。這也是大家常常說“科學無國界”的原因。
哪怕是特立獨行的愛因斯坦，在提出相對論時，也需要發表論文。而且，直到居里夫人等主流物理學家認可後，相對論才真正成為了科學而被大家所接受。
現在物理學界、包括很多所謂“民間科學家”，又出現了大量腦洞大開的理論，但其中能成為真理的一定鳳毛麟角，而且一定需要經過廣泛驗證和科學界的接納才能留存下來。
所以，我想強調的是，同時也是明斯基教授所忽略的一點，人類整體智慧的發展過程中，人與人的社會互動發揮了關鍵作用。如果AI要追平乃至超越人類整體，還至少應當要能實現認知和決策的“外部社會化”。
也就是說，未來AI Agents不僅要能“多模態”地觀察和理解世界，還要能總結和創新，提出新概念、新理論，並要與其他AI Agents以及和人類進行理性的、批判性的討論，才有可能做出超出人類整體智慧的貢獻。當然，這必然是遙遠未來的事。
目前，雖然我們看到了一些讓大量AI Agents互動的實驗，但由於當前AI連單體的認知和決策都還未實現“內部社會化”，“外部社會化”更是無從談起。
最後，我想說的是，真正的AGI（通用人工智慧），絕不是靠單純製造更龐大的超算中心、加入更多的訓練資料、用更多的引數就能實現的，而是需要對人類認知的本質有更深刻的理解，並將這些理解用於AI的發展之中。否則，我們只會迷失在AI所給的幻覺之中。
今天的探討或許顯得有些超前，但我們提出的假設和建議都是可證偽的，可以等待未來的實踐來驗證。同時，也歡迎你加入科技特訓營，一起探討AI的未來，與我一起，先人一步，看清未來！
前哨AI小課第四季已經開始，想要用AI提升工作效率的朋友不容錯過，現在購買還可以享受早鳥價優惠！
以上就是今天的內容，王煜全要聞評論，我們明天見。
推薦閱讀：
【科技特訓營】看懂科技產業，離不開長期觀察。線上書院模式，與王老師深度連結！為未來五年做好準備，先人一步，領先一路！
↓長按圖片掃碼報名，先人一步，領先一路
↓¥399，掌握王煜全AI產業預測精華（iOS使用者請在電腦端開啟）
此外，我們還為您準備了一份清單
“2024年全球汽車品牌銷量排行榜”