什麼樣的AI硬體，才不會變「雞肋」？

一段時間以來，AI 硬體的江湖很熱鬧 —— 有 Meta 與雷朋聯名的智慧眼鏡，有蘋果的 Apple Intelligence，有微軟的 Copilot + PC，還有創業公司推出的 AI pin 和 Rabbit……這番場景，讓人聯想到 2018 年前後 IoT（Internet of Things，物聯網）爆發的時期。那時，能聯網的就是 IoT；今天，能連大模型的似乎就是 AI 硬體。

但目前看來，那個劃時代的產品還沒有出現。當下所謂的 AI 硬體，更多讓人感覺像「雞肋」。

AI 時代的硬體究竟該是什麼樣？這又給國產端側 AI 晶片企業帶來了哪些機會？Cramer Techs 創始人、在半導體領域從業多年的吳駿，給出了他的回答。

以下為對話要點，文末還有完整音訊，也可在各大音訊、播客平臺搜尋「科技早知道」收聽，不要錯過。

聲動活潑

在 ChatGPT 開啟的這一波 AI 浪潮中，你看到了什麼不一樣的東西？端側 AI 有沒有出現值得關注的應用或產品？

吳駿

隨著 AI 技術不斷發展，新的終端應用裝置會迎來一波很大的替換，甚至是更高一個層面上的迭代，這是不可避免的歷史趨勢。

我覺得所有大的技術創新，或者終端上的創新，都是基於人機互動。我們最早程式設計，都是敲命令列，後來有了桌面系統，又有了觸控式螢幕，再後來變成了分散式系統……每一波發展的程序都是基於新的人機互動介面。

人是有惰性的，都喜歡省事、省力。這一波的核心創新點或者說應用升級，還是讓人以一種更高效的方式來進行人機互動。原來很多硬體還需要動一下手指，需要做語音輸入，才能執行相關任務。但是未來可能就在起心動念之間，外部的事物就能和你產生協同，像是家電、穿戴裝置、智慧終端，或者像 AI 智慧體（AI Agent），能夠理解使用者時間序列上前後的動作，可以在沒有明確指令的時候，幫使用者把很多事情處理掉。

▲不同於聊天機器人和 Copilot，AI 智慧體進一步提升了互動體驗，能夠更高效、自主、完整地執行人類任務。｜圖源：福布斯

在這個領域內，我比較喜歡兩家公司，一家是 Garmin，一家是蘋果，它們在產品功能上真的有創新性。其他大量智慧裝置其實是缺乏智慧化功能的。

我們的公司成立於 2021 年，當時我們做了很多演算法和系統上的預演，比如如何更好地感知一個人的運動狀態，或者一個物體的運動速度。但是我們發現，那時的終端側晶片是不足以支撐這樣的應用場景的，算力不夠。為什麼蘋果可以做得很好？因為它的晶片都是自己做的，軟硬體深度耦合，功能天然有硬體的加持。

那時我們判斷，未來終端裝置上晶片的算力會越來越強，但價格會越來越便宜。從去年底到今年，我們看到做端側的小晶片公司越來越多，而且算力加強的趨勢比我們預想的還要快。所以，AI 在終端應用的興起只是一個時間問題。

聲動活潑

現在很多 AI 硬體，說是和 AI 結合，但用起來都很「雞肋」。您覺得在端側 AI 硬體的大潮裡，什麼樣的產品有可能脫穎而出？有沒有一些具象的應用場景？

吳駿

從我的經驗上來說，分兩種。

一種是利用 AI 技術去解決原來解決不了的問題。

比如健康檢測穿戴裝置的客戶，需要人體的一些運動或者健康資料，或是一些場景的識別，這些靠原有 CPU 的計算解決不了，精度不高，還容易犯錯。但如果有了 AI 加持，效果就會提升得比較明顯。國內一些頭部高科技終端裝置企業，逐漸在往這個方向走。

還有一種是更上層的，就是讓人機互動變得更智慧化、更順滑。這部分需要各種感測器的接入，來保證機器能很好地領會你的意圖。其實蘋果已經打了個樣，就是 Vision Pro ，它把自己空間計算的所有積累都用在裡面了，人機互動介面變成有點科幻和魔幻的狀態。這是下一步演進的方向。

▲Vision Pro 上的 App Store 使用體驗。| 圖源：蘋果官網

聲動活潑

在端側 AI 晶片興起之前，這樣的技術都掌握在蘋果這種大公司手裡。現在隨著端側 AI 晶片技術成熟，是不是會有一大批穿戴裝置、IoT 企業起來，創造出更多類似的應用消費場景？

吳駿

是的，蘋果是把軟體演算法、硬體，以及整個系統生態等每一個環節都很好穿起來的公司。其實國內在每一個環節上都有一些很不錯的企業，只是沒有那麼強的能力可以把整條線全部串起來。一些頭部的企業可能不做晶片，沒有算力加持，但是在自己的伺服器和雲端，已經做了很多工作；有一些企業有很好的產品，但是苦於沒有硬體來承載這些功能。

我認為現在到了一個很有趣的時間點，除了蘋果這樣的頂尖企業，其他的企業也有機會去把這些點串起來。

聲動活潑

從國內來看，大家是不是更偏重端側 AI 晶片的研發，而不是雲計算晶片？

吳駿

從整個行業的格局來看，中國一些優秀晶片公司的積累，是在偏消費類的、偏終端側的晶片。通常來說終端測更能夠看到成效，短期內投入產出比會更好，至少國內今年確實有不少企業在終端側在發力。

說到雲端，英偉達是一個繞不開的話題，英偉達有個很厲害的一個大殺器，就是 CUDA 指令集。我們在使用過程中發現，CUDA 和英偉達的顯示卡匹配之後，處理能力和效能確實很強。所以對國內企業來說，單把晶片本身做好還不夠，還要有 CUDA 這種被廣泛認可的應用。這是新進來的企業要面對的一大難點。

聲動活潑

那現在晶片市場的競爭格局是什麼樣？

吳駿

我覺得端側的機會比較大。它的入局門檻沒有那麼高。雖然端側 AI 晶片在工具鏈上還是有問題，但這個問題解決起來比解決 CUDA 的問題難度低得多。它的可獲得性、開發成本，以及週期等要解決的問題，難度也會低一些。而且，我覺得百花齊放的狀態通常也是在終端側呈現。

聲動活潑

這會是中國企業的紅利期嗎？

吳駿

一定是的。我們在和美國同行交流的時候發現，美國企業現在更擅長做的是高階、前沿，但可能還找不到明顯的應用落地的東西。而中國企業更擅長的是市場化，而這又恰恰是端側小的計算晶片可以發揮長處的地方。

但我們也擔心一個問題，中國的晶片企業通常「卷」起價格來，降價的速度會非常快。這會導致大家投入很多，研發好多年，等要摘果子的時候，發現這個果子不值錢了。這是要極力避免的。我也和一些國內的同行聊過，大家都沒有一個特別好的想法，只能摸索著看了。

聲動活潑

國內企業除了「卷」，還可以在消費者教育方面做些什麼？

吳駿

歸根結底，客戶要的其實不是晶片，而是解決方案。如果你能提供的不僅僅是一顆晶片，而是真正解決客戶的痛點，我覺得客戶是願意去買單的。

這就回到了剛才的話題，就是如何用 AI 技術提升人機互動的效率，提升機器理解人意圖的能力。這才是 AI 競爭核心的問題。我們現在討論的很多 AI 功能，更像是一個 demo 秀，是秀給產業圈、投資人和股民的。但如果這些技術得到深入挖掘和發展，是有可能幫人們真正解決問題的。

我和美國的同行聊，大家的困惑其實也是共通的，都在琢磨 AI 到底能幹什麼。當技術點都有了，其實需要的是一個喬布斯，一個好的產品經理，能把所有東西攢起來。在電子終端裝置的領域，有一個很有意思的學習物件，就是任天堂。任天堂和索尼一個很大的區別就是，任天堂通常是把硬體的能力發揮得剛剛好，不追求特別前沿，但可玩性很強，同時又可以控制住成本。

現在大家應該想的，可能不再是「大力出奇跡」，要建多少資料中心，要把算力變得多強……而是應該反過來思考，用現有的東西能解決哪些問題。

聲動活潑

今年您看到了哪些賣得比較好的 AI 硬體？

吳駿

有一個賣得很好的產品是穆斯林祈禱戒指。很多人想到智慧戒指的應用無非就是替代手環，或者多一些手勢控制，但是這個產品為一個十幾億人的群體，解決了剛需，比如提醒祈禱時間，提供準確的朝拜方向等。

▲專為穆斯林祈禱設計的智慧戒指。｜圖源：亞馬遜商城

其實在一個很小眾的領域，一些很小眾的產品，它們的出貨量甚至比一些廣為人知的品牌還要大。所以，我們往往過多地在供給側去想問題，但到最後真正的產品的爆點是在需求端。

聲動活潑

我知道一個產品叫 Plaud，是一個 AI 卡片錄音機，非常薄，充一次電能用蠻久，可以把採訪文字整理出來，好幾個做媒體的朋友手機上都貼了一個。對於內容創作者來說，這是一個很好的垂直細分的產品。

▲Plaud 是一款 ChatGPT 加持的超薄錄音機，據稱可以轉譯 59 種語言。｜圖源：Plaud 官網

那在端側硬體的開發上，國內企業還面臨一些什麼挑戰？

吳駿

我現在切身體會到的是，要避免同質化競爭。如果今天華強北突然出現了一個爆品，明天整個華強北所有櫃檯就都在賣。這是一個很大的問題，我們投入大量的資源，但沒有產生同比例的價值，而是浪費在大量、重複的低價低質競爭上。過於內卷把很多有價值的東西卷沒了。另外，就是如何讓端側晶片能被更廣泛的客戶群使用。除此以外，我覺得整個大方向還是朝著光明的方向走。