
👆如果您希望可以時常見面,歡迎標星🌟收藏哦~
來源:內容來自MSN,謝謝。
儘管投資者曾短暫懷疑,但大型科技公司、國家政府和風險投資家以前所未有的規模向人工智慧投入資金。要理解原因,我們需要了解人工智慧本身正在發生的變化。
技術正從傳統的大型語言模型轉向推理模型和人工智慧代理。訓練傳統的大型語言模型(你在大多數人工智慧聊天機器人的免費版本中遇到的那種)需要大量的電力和計算時間。但我們正在迅速找到減少它們在人類呼叫時執行所需資源的方法。推理模型基於大型語言模型,不同之處在於它們的實際執行消耗更多的資源,包括微晶片和電力。
自OpenAI在9月預覽其第一個推理模型o1以來,人工智慧公司一直在競相釋出能夠與之競爭的系統。這包括DeepSeek的R1(在今年年初震撼了人工智慧界以及許多科技和電力公司的估值)和埃隆·馬斯克的xAI(剛剛推出了其Grok 3推理模型)。
DeepSeek引發了一場恐慌,因為它表明可以用比其他模型低得多的成本訓練人工智慧模型,這可能會減少對資料中心和昂貴的高階晶片的需求。但DeepSeek實際上做的是將人工智慧行業推向資源密集型推理模型,這意味著計算基礎設施仍然非常需要。
由於其增強的功能,這些推理系統很可能很快成為人們在許多工中使用人工智慧的預設方式。OpenAI執行長薩姆·奧特曼表示,該公司人工智慧模型的下一次重大升級將包括高階推理功能。
為什麼推理模型以及它們所支援的產品(如“深度研究”工具和人工智慧代理)需要更多的電力?答案在於它們的工作方式。
英偉達人工智慧產品管理副總裁卡里·布里斯基在最近的一篇部落格文章中寫道,人工智慧推理模型可以輕鬆使用比傳統大型語言模型多100倍的計算資源。這種倍增效應來自於推理模型花費數分鐘甚至數小時與自己對話(並非使用者都能看到),形成一個漫長的“思維鏈”。模型使用的計算資源量與生成的單詞數成正比,因此生成100倍單詞來回答問題的推理模型將使用更多的電力和其他資源。
當推理模型訪問網際網路時,情況會變得更加資源密集,例如谷歌、OpenAI和Perplexity的“深度研究”模型。
這些對計算能力的需求只是開始。反映這一點,谷歌、微軟和Meta Platforms計劃在2025年集體支出至少2150億美元的資本支出,其中大部分用於人工智慧資料中心。這將比他們去年的資本支出增加45%。
為了展示對未來人工智慧需求的預測,我們可以列出一個簡單的等式。
等式中的第一個值是處理人工智慧(如ChatGPT)中的單個資訊令牌所需的計算資源量。
1月份,在中國人工智慧模型DeepSeek R1釋出後,每個令牌的成本(包括計算能力和美元)似乎會暴跌。DeepSeek及其隨附的論文表明,以一種比美國人工智慧實驗室先前披露的方法更有效的方式訓練和交付人工智慧是可能的。
從表面上看,這似乎表明人工智慧未來對計算能力的需求將是當前數量的一部分,比如十分之一甚至更少。但推理模型在回答查詢時增加的需求可能會彌補這一點。最簡單地說,如果基於DeepSeek見解的新型更高效人工智慧模型將人工智慧的計算能力需求削減十分之一,但推理模型成為標準並將這些模型的需求增加100倍,那麼未來人工智慧的電力需求仍然會增加10倍。
這只是起點。隨著企業發現新型人工智慧模型功能更強大,他們越來越頻繁地呼叫它們。這正在將計算能力的需求從訓練模型轉向使用它們,即人工智慧行業所說的“推理”。
為其他公司提供人工智慧計算資源的Baseten執行長圖欣·斯里瓦斯塔瓦表示,向推理的轉變已經開始。他的客戶包括在其應用程式和服務中使用人工智慧的科技公司,例如Descript(允許內容創作者直接從錄音的文字記錄中編輯音訊和影片)和PicnicHealth(一家處理醫療記錄的初創公司)。斯里瓦斯塔瓦說,Baseten的客戶發現,隨著他們自己產品的需求迅速增長,他們需要更多的人工智慧處理能力。
“對於一位客戶,我們在六個月前將他們的成本降低了大約60%,但在三個月內,他們的消耗量已經高於最初的消耗量,”他補充道。
OpenAI、谷歌和Meta等公司所有大型人工智慧實驗室仍在競相透過訓練功能更強大的人工智慧模型來超越彼此。無論成本如何,目標都是儘可能多地佔領仍處於萌芽狀態的人工智慧市場。
“我認為前沿實驗室需要不斷投入大量資金以推動前沿發展是完全有可能的,”Fractional AI執行長克里斯·泰勒說。該公司總部位於舊金山,幫助其他軟體公司構建和整合定製人工智慧。與Baseten和蓬勃發展的人工智慧生態系統中的許多其他公司一樣,他的公司依靠這些尖端模型為其客戶提供結果。
風險投資家和Theory Ventures創始人托馬斯·通古茲表示,在未來幾年內,新的創新和更多人工智慧專用微晶片可能意味著向最終客戶交付人工智慧的系統比現在高效一千倍。他補充說,投資者和大型科技公司正在押注,由於推理模型和快速採用,未來十年人工智慧模型的需求量可能會增加一萬億倍或更多。
“你鍵盤上的每一次按鍵,或你對著麥克風發出的每一個音素,都將由至少一個人工智慧轉錄或操作,”通古茲說。他補充說,如果是這樣,人工智慧市場很快就會比現在大1000倍。
END
👇半導體精品公眾號推薦👇
▲點選上方名片即可關注
專注半導體領域更多原創內容
▲點選上方名片即可關注
關注全球半導體產業動向與趨勢
*免責宣告:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支援,如果有任何異議,歡迎聯絡半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4044期內容,歡迎關注。
推薦閱讀



『半導體第一垂直媒體』
即時 專業 原創 深度
公眾號ID:icbank
喜歡我們的內容就點“在看”分享給小夥伴哦

