前谷歌 CEO&董事長 Eric Schmidt 近日在 TED 上表示， AI 被嚴重低估了，它不僅是語言工具，而是未來戰略規劃、科學發現乃至國家安全與地緣政治格局的核心力量。
他認為，真正重要的是 AI 的“創造力”——它做出人類從未做過的事，這不是記憶和模仿，而是原始創新的萌芽。
強化學習+ 多代理系統的結合，正在逼近“AI 自主系統”——也就是“會思考、會計劃、會執行”的系統，超越了現在我們所認知的聊天機器人。
AI 的計算需求不是線性增長，是指數級躍升，而我們當前的基礎設施遠遠跟不上。他用“格羅夫賜予，蓋茨取回”來諷刺硬體進步抵不上軟體需求爆炸。
最震撼的是，他指出 AI 是網路效應行業，領先者可以以指數速度拉開差距，導致對手永遠失去競爭力。這種不對稱性將使國家之間的不信任急劇上升，誘發先發制人的戰爭風險。
他還把“ChatGPT = AI”的流行觀點顛覆，提出“AI 是另一種形態的文明機器，它的真正潛力和威脅才剛剛開始被理解”。
主持人:
你曾說過，非人類智慧的到來是一件非常重大的事情。這張拍攝於2016年的照片，感覺就像是地球在我們腳下發生了變化，但並不是每個人都注意到了。當時你看到了什麼，而我們其他人可能錯過了？
Eric Schmidt:
2016 年，我們還不明白接下來會發生什麼，但我們知道這些演算法是全新且強大的。在這組特定的比賽中，大約在第二場比賽中， AI 發明了一個在已有 2500 年曆史的遊戲中從未見過的走法。
從技術上講，這種情況的發生是因為AlphaGo系統被組織成始終保持超過 50% 的獲勝機率。因此，它正確地計算出了這一步，這一走法在所有圍棋選手中引起了極大的疑惑，他們顯然都是極其卓越、數學和直覺都非常出色的選手。
Henry、 Craig Mundie 和我開始討論的問題是，這意味著什麼？為什麼我們的計算機能夠想出人類從未想過的東西？
我的意思是，這是一個由數十億人玩過的遊戲。這開啟了促成了兩本書的創作。坦率地說，我認為這是革命真正開始的時刻。
主持人:
如果快進到今天，似乎所有人都在談論 AI ，尤其是在 TED 這樣的場合。但你持有一個反主流的觀點。你實際上認為 AI 被低估了。為什麼？
Eric Schmidt:
我來告訴你為什麼。你們大多數人認為 AI 就是 ChatGPT 這樣的東西。對你們大多數人來說，ChatGPT 是你們說“哦，天哪，這東西會寫作，雖然會犯錯，但它非常口才出眾”的時刻。這當然也是我的反應。我認識的大多數人都是這樣的。
這是兩年前的事了。從那以後，強化學習的進步—— AlphaGo 幫助發明的——讓我們能夠進行規劃。一個很好的例子是 Open AI 的 o1 或 DeepSeek 的 R1 ，你可以看到它如何反覆推演，非常出色。在我的例子中，我買了一家火箭公司，因為這很有趣。
就像人們常做的那樣。我不是這個領域的專家，但我想成為專家。所以我正在使用深度研究。這些系統會花 15 分鐘寫出這些深奧的論文。這對大多數系統來說都是如此。你知道 15 分鐘的超級計算機計算量有多大嗎？這是驚人的。
因此，你看到的是從語言到語言的轉變。然後是這是生物學的研究方式。現在你實際上是在做規劃和策略。最終的狀態是計算機執行所有業務流程，對吧？所以你有一個代理（指執行特定任務的AI系統）做這個，一個代理做那個，一個代理做這個。然後你將它們串聯在一起，它們之間用語言交流。它們通常使用英語。
主持人:
說到這些系統的計算需求，讓我們簡要談談規模。我有點把這些 AI 系統看作是“飢餓的河馬”。它們似乎吸收了我們投入的所有資料和計算。它們已經消化了公共網際網路上的所有令牌，而且我們似乎無法足夠快地建造資料中心。你認為真正的限制是什麼，我們如何在它們開始限制 AI 進步之前領先於它們？
Eric Schmidt:
能源是一個真正的限制。舉個例子。我本週在國會作證時提到，美國需要再增加90吉瓦的電力。90吉瓦在美國相當於90個核電站。我們沒有建造核電站，我們將如何獲得所有這些電力？這是一個重大的國家問題。
你可以使用阿拉伯世界，他們正在忙於建造 5 到 10 吉瓦的資料中心。印度正在考慮一個10吉瓦的資料中心。要理解吉瓦有多大，可以想象每個資料中心相當於一個城市。這就是這些東西需要的電力。人們看著它說，“嗯，有很多演算法改進，你將需要更少的電力。”我記得一句老話，‘格羅夫賜予，蓋茨取回’（Grove giveth, Gates taketh away）意思是硬體越來越快，軟體需求也隨之增加。
物理學家們令人驚歎。他們所做的事情令人難以置信。而我們軟體人員，我們只是使用它，使用它，使用它。當你看規劃時，至少在今天的演算法中，它是來回嘗試這個那個，你自己看一下。有估計，你從 Andreessen Horowitz 的報告中知道，這已經被很好地研究過，計算量至少增加了 100 倍，也許 1000 倍，只是為了進行這種規劃。
技術從深度學習到強化學習，再到所謂的測試時計算（指在執行任務時同時進行學習）不僅在規劃，還在規劃時學習。那是計算需求的頂峰，或者說頂點。
問題一，電力和硬體。問題二，我們用完了資料，所以我們必須開始生成它。但我們可以輕鬆做到這一點，因為這是一項功能。然後我不太明白的第三個問題是知識的極限是什麼？舉個例子。讓我們想象我們是世界上所有的計算機，我們都在思考，我們都在思考基於已經存在的知識。我們如何發明全新的東西？比如愛因斯坦。當你研究科學發現的方式，生物學、數學等等，通常會發生的是，一個真正聰明的人類會看一個領域，說：“我看到了一個模式，在一個完全不同的領域，與第一個領域無關。是相同的模式。”然後他們從一個領域獲取工具，應用到另一個領域。
今天，我們的系統還不能做到這一點。如果我們能解決這個問題，我正在研究這個，這個的一般技術術語是非平穩目標（指規則不斷變化的動態目標）規則不斷變化。我們將看看是否能解決這個問題。如果我們能解決，我們將需要更多的資料中心。而且我們還將能夠發明全新的科學和知識思想流派，這將是令人難以置信的。
主持人:
隨著我們邁向高峰，自治一直是討論的熱門話題。Yoshua Bengio 本週早些時候發表了一個引人注目的演講，主張 AI 實驗室應該停止開發能夠自主行動的代理 AI 系統。然而，這正是所有這些 AI 實驗室的下一個前沿領域，對你來說似乎也是如此。正確的決定是什麼？
Eric Schmidt:
Yoshua 是我們正在談論的很多內容的傑出發明者，也是我的好朋友。我們討論過這個問題，他的擔憂是非常合理的。問題不在於他的擔憂是否正確，而是解決方案是什麼？讓我們來思考代理。為了論證的目的，觀眾中的每個人都是一個代理。你有輸入，英語或其他語言。你有輸出，英語，你有記憶，這是所有人類的共同點。
現在我們都在忙於工作，突然間，你們中的一個決定不使用人類語言，而是發明我們自己的計算機語言。現在你和我坐在這裡，看著這一切，我們會說，我們該怎麼辦？正確的答案是拔掉你的插頭，對吧？因為我們不會知道，我們只是不會知道你在做什麼。你可能實際上在做非常糟糕或非常了不起的事情。我們希望能夠觀察。
因此，我們需要可追溯性，這是你和我討論過的事情，但我們也需要能夠觀察它。對我來說，這是一個核心要求。行業認為有一些標準，你希望在這些點上，隱喻地說，拔掉插頭。其中一個是你得到無法控制的遞迴自我改進。遞迴自我改進是計算機在學習，你不知道它在學習什麼。這顯然會導致不好的結果。
另一個是直接訪問武器。另一個是計算機系統決定在未經我們許可的情況下未經許可自行傳播或複製。所以有這樣一組事情。Yoshua 的演講的問題，在全球競爭激烈的市場中，試圖停止某些事情的做法並不實際。與其停止代理工作，我們更應該尋找方法來建立護欄。我知道你也認同這一點，因為我們之前已經討論過這個話題。
主持人:
我認為這很好地引出了困境。這個技術帶來了許多困境。我想從第一個開始討論，Eric 這個技術的軍民兩用性質非常突出，對吧？它既適用於民用也適用於軍事應用。那麼，你如何廣泛地思考與這個技術相關的困境和倫理難題，以及人類如何部署它們？
Eric Schmidt:
在許多情況下，我們已經有關於個人責任的學說。一個簡單的例子，我做了很多軍事工作，並且繼續這樣做。美國軍方有一個稱為 3000.09 的規則，通常被稱為“人在迴路中”或“有意義的人類控制”。你不希望系統不受我們的控制。這是一條我們不能跨越的界限。我認為這是正確的。我認為西方，特別是美國和中國之間的競爭，將在這一領域起到決定性作用。
我會給你一些例子。首先，現任政府現在基本上實施了 145% 的對等關稅。這對供應鏈有巨大影響。我們在我們的行業中依賴於來自中國的包裝和元件，這些東西很無聊，但非常重要。那些小小的包裝和膠水之類的東西是計算機的一部分。如果中國拒絕我們獲取它們，那將是一件大事。我們正試圖拒絕他們獲取最先進的晶片，這讓他們非常惱火。
基辛格博士博士要求 Craig 和我與中國進行第二軌道對話，我們正在與他們交談。他們提出的首要問題是什麼？就是晶片訪問的問題如果你看 DeepSeek，它真的令人印象深刻，他們設法找到了透過提高效率來繞過問題的演算法。因為中國正在做所有開源、開放權重的專案，我們立即從他們的發明中受益，並將其採納到美國的東西中。所以我們現在處於一個我認為相當脆弱的局面，美國在很大程度上推動了，出於許多很好的原因，主要是封閉模型，主要是處於非常好的控制之下。
中國很可能成為開源的領導者，除非發生變化。開源導致世界範圍內非常快速的擴散。這種擴散在網路和生物層面是危險的。但讓我告訴你為什麼它在更重要的方式上，在核威脅的方式上也是危險的。基辛格博士博士，我們與他密切合作，是相互保證毀滅、威懾等的建築師之一。
現在發生的情況是，你遇到了一個局面——我舉個例子。解釋起來更容易。你是好人，我是壞人，好嗎？你比我領先六個月，我們都在通往超級智慧的同一條道路上。你會到達那裡，對吧？你肯定會到達那裡，你已經很接近了。我落後六個月。聽起來不錯，對吧？聽起來很好。
不，這些是網路效應業務。在網路效應業務中，你的改進技術進步的速度（即斜率）決定了所有事。所以我將使用 OpenAI 或 Gemini，他們有 1000 名程式設計師。他們正在建立一百萬 AI 軟體程式設計師。這會帶來什麼？首先，你不需要餵養他們，只需要電力。這很好。他們不會辭職之類的事情。其次，斜率是這樣的。好吧，隨著我們越來越接近超級智慧，斜率會變得這樣。如果你先到達那裡，你這個狡猾的人
主持人:
你永遠無法趕上我。
Eric Schmidt:
我將無法趕上你。我給了你重塑世界的工具，特別是摧毀我的工具。我的邪惡大腦就是這樣想的。那麼，我該怎麼辦？首先，我會嘗試竊取你的所有程式碼。其次，我會用人滲透你。你有很好的保護措施。我們沒有間諜。那麼我該怎麼辦？我會進去，我會改變你的模型。我會修改它。我實際上會搞砸你，讓我領先你一天。我的下一個選擇是什麼？轟炸你的資料中心。現在你認為我瘋了嗎？今天在我們的世界中，圍繞核對手正在進行這些對話。有合法的人說，解決這個問題的唯一辦法是先發制人。
現在我告訴你 Mr. Good，即將擁有控制整個世界的鑰匙，無論是經濟主導、創新、監視，還是你關心的任何事情。我必須阻止這一點。我們在我們的社會中沒有任何語言，外交政策人員還沒有考慮到這一點，而這正在到來。什麼時候到來？可能五年。我們有時間。我們有時間進行這個對話。這真的很重要。
主持人:
讓我在這個問題上稍微推進一下。所以如果這是真的，我們最終會陷入這種僵局局面，類似於相互保證毀滅，你還說過，美國應該擁抱開源 AI ，即使在中國的DeepSeek展示了用一小部分計算可以實現什麼之後。但開源這些模型，不就是將能力交給對手，加速他們自己的時間表嗎？
Eric Schmidt:
這是最棘手的問題之一，或者，我們稱之為 極其棘手的難題。我們的行業，我們的科學，我們所建立的一切都基於學術研究、開源等。谷歌的許多技術都基於開源。谷歌的一些技術是開源的，一些是專有的，完全合法。當有一個非常危險的開源模型進入世界上的恐怖分子或惡意行為者手中 手 中時，會發生什麼？我們知道不幸的是，不止一個。我們不知道。
行業目前的共識是，開源模型還沒有達到國家或全球危險的程度。但你可以看到一種模式，它們可能會到達那裡。所以很多將取決於在美國和中國以及兩地的公司做出的關鍵決定。我關注美國和中國是因為它們是唯一兩個國家，人們瘋狂到願意花費數十億美元來建立這個新願景。歐洲，雖然很想這樣做，但沒有資本結構來實現。其他大多數國家，甚至印度，也沒有資本結構來實現，儘管他們希望如此。中東國家沒有資本結構來實現，儘管他們正在努力。
所以這場戰鬥，將是決定性的戰鬥。基辛格博士博士談到與中國開戰的可能路徑是意外。他是第一次世界大戰的學生。當然始於一個小事件，然後在1914年夏天升級。然後是這場可怕的大火。你可以想象一系列沿著我所說的路線發生的步驟，可能導致我們走向可怕的全球結果。這就是為什麼我們必須關注。
主持人:
我想談談這裡的一個反覆出現的緊張局勢，是在規模上調節這些 AI 系統，在 AI 安全中有一個奇怪的緊張局勢，防止 “1984” 的解決方案通常聽起來很像 “1984” 。在規模上調節這些系統是一個熱門話題。你如何看待這種權衡？在試圖防止反烏托邦，比如防止非國家行為者以不希望的方式使用這些模型時，我們可能會意外地建立起終極的監視國家。
Eric Schmidt:
堅持我們社會中的價值觀非常重要。我非常非常致力於個人自由。一個善意的工程師很容易建立一個最佳化並限制你自由的系統。因此保護人類自由非常重要。很多這些不是技術問題。它們實際上是商業決策。建立一個監視國家是完全可能的，但建立一個自由的國家也是可能的。
你所描述的難題是因為現在基於錯誤資訊進行操作變得如此容易，每個人都知道我在說什麼，你確實需要身份證明。但身份證明不一定包括細節。例如，你可以有一個密碼學證明，證明你是一個人類，而且實際上是真實的，沒有其他資訊，並且無法使用各種加密技術將其連結到其他人。
主持人:
所以零知識證明和其他技術。
Eric Schmidt:
零知識證明是最明顯的一種。
主持人:
好的，讓我們換個話題，在你的書《Genesis》中，你與 Henry 基辛格博士合著，採取了一種謹慎樂觀的基調。當你展望未來時，我們都應該對什麼感到興奮？
Eric Schmidt:
我到了這樣的年紀，我的一些朋友正在患上非常可怕的疾病。我們現在能解決這個問題嗎？我們能消除所有這些疾病嗎？為什麼我們不能現在就採取行動，根除所有這些疾病？這是一個非常好的目標。我知道有一個非營利組織正在努力在未來兩年內識別所有人類可藥物靶點，並將其釋出給科學家。如果你知道可藥物化的目標，那麼製藥業就可以開始研究這些東西。我與另一家公司有關聯，據稱，這是一家初創公司，找到了一種方法，將第三期臨床試驗的成本降低一個數量級。正如你所知，這些是最終推動藥物成本結構的東西。
這是一個例子。我想知道暗能量在哪裡，我想找到它。我相信在暗能量、暗物質中有大量的物理學。想想材料科學的革命。極大提升的交通，無限更強大的科學等等。我再給你一個例子。為什麼我們不能讓地球上的每個人都有自己的導師，用他們自己的語言幫助他們學習新東西？從幼兒園開始。這是顯而易見的。為什麼我們還沒有建立它？答案是，唯一的可能答案是，一定沒有一個好的經濟論據。技術是可行的。用他們的語言教他們，遊戲化學習，讓人們發揮他們最佳的自然優勢。
另一個例子。世界上絕大多數的醫療保健要麼不存在，要麼由相當於護士從業者和非常非常緊張的當地鄉村醫生提供。為什麼他們沒有醫生助理，用他們的語言幫助他們治療任何疾病，再次提供完美的醫療保健？
數字世界有很多問題。感覺我們都在自己的船上，在海洋中，我們沒有互相交談。在我們對連線和聯絡的渴望中，這些工具讓我們更孤獨。我們必須解決這個問題，對吧？但這些是可解決的問題。它們不需要新的物理學。它們不需要新的發現，我們只需要決定。
所以當我看這個未來時，我想明確的是，這種智慧的到來，無論是 AI 層面、AGI，還是超級智慧，都是人類社會在約 500 年，也許 1000 年中將要發生的最重要的事情。而且它發生在我們的有生之年。所以不要搞砸了。
主持人:
讓我們說我們進入這個激進豐饒的世界。讓我們說我們最終到達那個地方，我們達到了遞迴自我改進的點。 AI 系統承擔了絕大多數經濟生產性任務。在你的想象中，人類在這個未來將做什麼？我們都在海灘上喝著菠蘿椰奶雞尾酒，從事愛好嗎？
Eric Schmidt:
聽著，人類在這個令人難以置信的發現中沒有改變。你真的認為我們會擺脫律師嗎？不，他們只會進行更復雜的訴訟。你真的認為我們會擺脫政客嗎？不，他們只會有更多的平臺來誤導你。
我的意思是，關於這個新經濟學的關鍵是，我們作為一個社會，集體地，沒有足夠的人類。看看亞洲的生育率，基本上是每對父母平均1個孩子。這不好。所以在我們的餘生中，關鍵問題將是讓那些處於生產力時期的人更有生產力，以支援像我這樣的老年人，他們會抱怨想要從年輕人那裡得到更多的東西。這就是它的運作方式。這些工具將極大地提高這種生產力。
有一項研究表明，在圍繞代理 AI 和發現以及我所描述的規模的一系列假設下，你最終將獲得每年約 30% 的生產力增長。現在與一群經濟學家交談後，他們對這種生產力增長沒有任何模型。我們從未見過這種情況。它在我們的歷史中的任何民主或王國的崛起中都沒有發生。即將發生的事情令人難以置信。希望我們能朝著正確的方向前進。
主持人:
這確實令人難以置信，你在技術變革的幾十年中航行。對於每個正在經歷這個 AI 轉型的人，技術專家、領導者、公民，他們感到興奮和焦慮的混合，你想提供什麼智慧或建議來應對我們今天所經歷的這個瘋狂時刻？
Eric Schmidt:
所以要記住的一件事是，這是一場馬拉松，而不是短跑。有一年我決定參加 100 英里的腳踏車比賽，我學會了關於旋轉速率的事情。每天你起床，你只是繼續前進。從我們在谷歌的合作中，當你以我們正在增長的速度增長時，你在一年內完成了很多事情，你忘記了你走了多遠。人類無法理解這一點。我們正處於指數級增長的情況中。隨著這些事情發生得更快，你會忘記兩年前或三年前的真相。
這就是關鍵。所以我給你的建議是，乘風破浪，但每天都要乘風破浪。不要把它看作是偶發的事件和可以結束的事情，而是理解它並建立在它之上。你們每個人都有使用這項技術的理由。如果你是藝術家、教師、醫生、商人、技術人員。如果你不使用這項技術，與你的同行和競爭者以及想要成功的人相比，你將變得無關緊要。採用它，並且快速採用。
我對這些系統的速度感到震驚——順便說一句，我的背景是企業軟體，現在有一個來自 Anthropic 的模型 Protocol。你實際上可以將模型直接連線到資料庫中，而不需要任何聯結器。我知道這聽起來很書呆子。整個行業都消失了，因為你現在有了這種靈活性。你只需說出你想要的，它就會生成它。這是商業中真正變化的一個例子。每天都有很多這樣的事情發生。
✦ 精選內容 ✦
