讓企業為大模型買單，目前有四大難

要讓更多的行業和企業為大模型買單，不是一蹴而就的事情

文｜徐文璞

編輯｜謝麗容

2024年初，醬香酒企肆拾玖坊在經銷商群裡投放了一個大模型驅動的聊天機器人。

群聊機器人不是什麼新鮮玩意兒，但大模型是時興技術。肆拾玖坊是酒企裡的新兵，2015年才成立，與傳統酒企相比公司規模不大，但對新技術敏感。肆拾玖坊CIO（資訊長）張鵬告訴我們，經銷商對酒企來說太重要了，希望藉助大模型的自然語義互動功能提高對經銷商的服務能力，實現提高銷量的目的。

熱鬧了一段時間，張鵬有點失望，“大模型加持的機器人就是不一樣，特能說，比閨蜜還能提供情緒價值，但這不是業務價值。”

大模型落地企業的方式主要有兩種。一種是企業私有化部署大模型，它可以保證企業的資料安全，但部署成本高達數百萬元，適用金融、電信、能源等資料敏感行業。另一種是呼叫廠商的大模型API（應用程式程式設計介面），它的成本低，主要以輸入輸出的Token（模型可以理解和生成的最小單位，它可以是一個詞、一個數字或一個標點符號等）量計費，部署方式簡單，適合的場景也更廣泛。

肆拾玖坊主要採用成本低的API呼叫模式。試點後，公司發現大模型對業務價值有限，決策者對後續大模型落地的探索已經趨於保守。

我們和十餘位散落在各行各業（主要是相對傳統的行業），規模不盡相同的頭部公司CIO交流了大模型的落地情況，得到兩個反饋：

其一，作為當下被認為是最重要的創新技術，大模型確實受到企業重視。他們想透過大模型技術解決痛點業務場景的問題，給企業帶來降本、增效、提質、拉需、創利等實際價值。

其二，目前大模型技術主要在單點、小場景落地，難以對業務整體帶來直觀回報。一位頭部咖啡連鎖品牌首席技術官表示，大模型只能錦上添花，無法雪中送炭。

目前，多數企業落地大模型的阻礙包括但不限於以下四點：明確有商業價值的落地場景有限、模型落地的工程化能力不足、行業和場景大模型尚不完善，以及企業自身對大模型的認知不足。

中觀資料側面支撐了以上反饋。國聯證券核對了A股全部公司2023年財報，有883家上市公司提及生成式AI業務。落地的企業集中在TMT（Technology科技、Media媒體、Telecom電信）行業和大市值公司。超過一半的一級行業滲透率不到10%，A股上市公司整體滲透率不足20%。

從結果看，先行企業探索的落地場景有限，集中在虛擬人、客服問答、營銷文案、平面設計、程式碼生成、知識庫、智慧助手等。這些場景與企業核心業務的關聯較輕。由於大模型生成的內容和訓練資料、提示詞的質量息息相關，以上典型場景的大模型落地效果也很參差。

率先落地大模型技術的多是技術敏感、數字化基礎較完善的企業，其他企業要落地大模型還需要補上這兩課。各行業普遍對大模型討論多、落地少。醫藥流通行業某頭部企業的副總經理告訴我們，在他看來，2024年不是所在行業的大模型落地元年：人才、認知、技術都不足。

也就是說，目前大模型落地的是那些天然離數字化近的行業，更多傳統行業目前仍處於觀望狀態。這符合新技術推廣規律，也給科技公司帶來時代命題——如果大模型真是一個能夠促進產業革新的大技術，它在更廣闊的行業賽道上的落地之路，應該怎麼走？

“我不會為玩具買單”

企業落地大模型的步驟一般分為三步：

第一，IT團隊梳理市場上開閉源模型的效能特徵。不同的模型有明顯差異，有的語義理解能力強，但對資料、時間不敏感；有的邏輯推理強，但語言表達不夠好；還有的英文場景能力強，中文場景能力弱……

第二，識別各業務線的痛點，即大模型技術和業務需求的交叉結合點。

第三，評估具體大模型的適配場景。

為此，技術團隊需要制定技術預算、投入人力資源、協調跨部門合作。但即便如此，大模型落地後的業務並不一定能收穫更多商業價值。

智譜AI的相關負責人告訴我們，大模型行業經過一年多的發展，國內企業客戶從2023年關注引數和榜單，到2024年更關注價值轉化，即企業端的需求實現了“模型為王”到“商業價值為王”的轉變。這要求企業找到大模型能力、企業場景和業務節點的最大公約數。

這不是一件易事。張鵬分析，其經銷商群裡的聊天機器人屬於市場營銷工具，經過大模型技術升級後，聊天機器人的語言表達更加自然，但仍不具備銷售人員的主動服務和專業素質。它提供的核心功能是同步產品價格、渠道等資訊或行業通識類知識，整體能力相比上一代問答機器人雖有提升，但業務價值不明顯。

一開始張鵬選擇聊天機器人落地大模型技術，是因為營銷場景能直觀評估商業價值轉化。但從結果看，這個場景的投入和產出“不太能達到預期”。

上述頭部咖啡連鎖品牌CTO認為，目前大模型技術在業務中展示了部分效率工具的價值。該公司將大模型引入營銷、客服和內部培訓場景，大模型在輔助文案和設計創意時“有些作用”。但他評價效率價值是相對的，對企業來說業務價值更重要。因此，他對後續大模型落地的優先順序排序不會很高。

多位產業企業的CIO告訴我們，希望模型廠商提供更多大模型落地的標杆案例。但國內頭部廠商的主要精力都在突破底層大模型，以實現對海外企業的追趕。它們普遍保持三個月迭代一次底層大模型的節奏。因此，大多數模型廠商和企業溝通時，以推銷技術為主，而不是提供行業解決方案。

企業落地大模型的一個誤區是，優先關注大模型的能力，拿著錘子找釘子。但現實是，不是所有應用現在用大模型重做一遍都能產生商業價值。

海底撈在2023年初開始接觸大模型技術。和大多數企業一樣，當時他們遵循外界對大模型的普遍印象，將其引入營銷文案自動生成、飛書問答機器人等場景。海底撈資訊科技部產品負責人楊炫之總結，那個階段的應用“偏玩具、偏實驗”，對業務幫助不大。

要找到價值場景，企業往往需要一段時間的探索。直到2024年初，海底撈才有所突破。楊炫之總結，大模型適合與成熟的小模型結合，落地重複性勞動的場景。

一個典型場景是，2024年初海底撈將大模型技術引入中央倉的物料識別環節。中央倉是海底撈門店貨物的集散地，接收來自全世界的商品。商品的語言、印刷包裝差異很大。過去中央倉使用OCR（光學字元識別技術。是一種掃描和識別影像中文字資訊，並將其轉換為可編輯、可搜尋文字格式的技術）技術識別和提取物料的生產日期、保質期、廠商等資訊，再讓人工做資訊歸類，將物料資訊整理成系統可識別的格式文件，發放給集團公司上下游單位使用。

楊炫之解釋，OCR就是一個小模型，解決了資訊識別和提取的問題，後續的資訊歸類則是人工的重複性勞動場景。人工資訊歸類存在翻譯標準不統一、耗時長、成本高的問題。此前海底撈中央倉歸類一條中文物料資訊的成本大約是五角錢，歸類一條外文物料資訊是八角錢。現在接入大模型自然語言理解能力後，這個工作可以交給系統高性價比地完成。

能夠像海底撈一樣花一年時間嘗試大模型在不同場景落地的企業是少數。多數民營企業在經濟逆風的背景下減少了創新預算。如果在大模型落地早期選錯了業務場景，企業的探索就會淺嘗輒止。

2024年5月以來國內大模型廠商集體宣佈降低調取模型API的價格，就是要降低企業探索大模型的落地成本，吸引更多企業加入大模型應用的創新生態。

有國內頭部大模型廠商的核心人士評價，降價不是為了打價格戰，是為了吸引客戶，大模型落地科技公司其實是先走了一步，從其他行業的視角看，很多企業還沒有到為大模型買單的階段。

新兵器，難上手

在武俠世界裡，人劍合一是達到武學最高境界的象徵，在大模型的浪潮中，大模型融入企業的業務和發展，才有可能發揮出想象中的威力。這意味著企業內的系統、資料要充分和大模型融合。這極其考驗企業數字化建設和工程化開發的能力，底子不夠的企業甚至拿不起這個新兵器。

具體來說，企業的核心業務要落地大模型有兩個前提條件。一是企業建設了數字化系統，且多個系統間能打通實現互操作性。二是企業實現對內部資料的整合與治理。

前者考驗企業過往的數字化建設水平，只有打通了OA（辦公自動化系統）、ERP（企業資源計劃系統）、MES（製造執行系統）、CRM（客戶關係管理系統）等內部管理工具和生產力工具的企業才能為大模型落地提供便捷。

後者需要企業挖掘散落在各處的海量的Excel、CSV、XML等格式的結構化資料和音訊、影片、圖片等非結構化資料，並完成對資料的清洗、預處理、打標、向量化處理等工作。這才能讓大模型理解並使用企業的資料。

一直以來，產業企業中的IT部門主要承擔採購的角色，為業務場景篩選、採購合適的技術解決方案，而很少承擔具體的開發工作。IT部門可以花高價採購外部服務完成企業數字化系統建設，但是大模型對企業還提出了新要求——如何將企業原來的數字化基礎與大模型結合、如何將專業人士對業務場景的理解轉化為知識庫和知識治理，這都需要大量的工程工作。

目前，大模型落地快的多是在智慧化投入時間長、投入資金大的企業。它們的數字化基礎較完善，模型廠商也願意為這些少數頭部企業提供貼身駐場的定製化服務。

然而，千行百業更多的是規模不那麼巨大、年投入數字化資金有限的企業。它們的數字化建設和工程化開發能力落後，要用好大模型更需要貼身的工程化定製服務。大模型廠商卻因為要控制成本、精力有限等原因無法顧及這部分需求。

這是當下大模型落地的痛點，也是未來的機會——大模型落地，需要一個第三方開發服務商群體。

某消費領域頭部企業的數字化負責人告訴我們，美國有很多軟體企業在探索大模型場景落地的工程化服務業務，但國內這個生態還有缺陷。已有的服務商集中在大模型私有化部署領域，而對大模型API呼叫的深度使用關注不足。同時無論哪種落地方式，將大模型與企業價值場景結合的工程化解決方案都不成熟。

相關解決方案缺失會讓企業只能在單一業務節點接入大模型，而無法在更復雜的業務場景落地大模型應用。

蒙牛落地大模型的進度在國內企業中處於第一梯隊。其數智化團隊從2022年下半年接觸並進行大模型技術落地。蒙牛首席數智官李琤潔告訴我們，公司內部已經沉澱了一套大模型落地方法論。

蒙牛構建了“1+2”的AI技術底座。“1”是AI基礎設施，它能高效且高效能地排程多模型並保障服務合規和資料安全。“2”是企業大腦和知識銀行。其中企業大腦負責串聯、排程大小模型，透過API方式接入和呼叫業務中臺的已有能力，實現企業內系統的打通。知識銀行則在充分挖掘企業資料後，將資料向量化處理，使之成為AI友好的知識，積累並治理蒙牛的行業知識。

在技術底座之上有AI Agent Builder低程式碼平臺，它允許業務人員透過拖拉拽的方式快速構建AI Agent（具有一定智慧性，可以自主或在使用者指導下完成特定工作的軟體實體）賦能具體業務場景。李琤潔告訴我們，如果企業只能在單一節點使用大模型，它能產生的價值就不大。以營銷場景為例，蒙牛實現了大模型輔助營銷投放決策及執行的端到端流程最佳化。

內容策略上，大模型會結合社媒熱點、品牌及產品資訊，自動進行創意概念及內容框架生成。具體營銷內容的生成，則綜合傳播平臺定位、賬號定位、關鍵詞策略等參考因素。投放人群決策上，大模型基於投放目標、投放預算、媒介屬性及目標人群等進行自動推薦。投放效果分析上，大模型會根據行業及蒙牛過往經驗、輿情聲量、投放目標等，生成效果評估。

整個流程調動了知識管理Agent、資料排程Agent和資訊分析Agent共同作用。如今蒙牛營銷的投放響應率比人工方式提高了12% 。

李琤潔總結蒙牛大模型落地的經驗：只有合適的AI底座+可部署的AI部件+公司特有知識/流程定製，企業才能實現端到端流程的最佳化提效。

過去ISV（獨立軟體開發商）提供不同領域的通用解決方案滿足企業具體需求。但大模型應用落地建立在業務場景理解、知識梳理、知識增強、知識分發與應用的基礎上，鮮有ISV掌握企業場景知識，這在市場上留出了很多空白。

很多廠商開始響應客戶需求，提供模型部署的底層工程化能力。但因其對業務場景不熟悉，產品難以滿足企業的實際需求，“好用的鳳毛麟角”。

現階段國內模型落地的服務生態尚未成熟，大模型落地依賴企業技術團隊的統籌和開發能力。這在無形之中提高了大模型落地的門檻，也讓更多基於通用大模型的創新應用場景難以被開發。

行業、場景模型尚未完善

落地服務商的位置空缺，導致通用大模型的能力不能在業務場景中得到充分釋放。而在通用大模型能力覆蓋不及的行業和垂直場景，與之更適配的模型同樣處於缺位狀態。

目前各大廠商商業化的主力都是通用大模型。它的知識面廣但深度不夠，在產業中的實用性不足。與之相對，行業和場景模型是專才，深鑽具體場景需求，可以提供更多業務價值。

一方面，建築、化工、醫療健康等具有高專業壁壘的行業尤其需要行業模型。以建築業為例，建築專案通常規模龐大，涉及設計、施工、管理等多個階段，需要處理大量資料和資訊。但建築行業有獨特的專業知識和規範標準，相關資料和資訊的處理需要模型能夠理解和應用專業知識，通用大模型通常難以應對建築專業專案的需求。

去年下半年以來，多家廠商都推出了行業大模型。但產業界的共識是，這些行業大模型的能力極其有限。

多位產業企業CIO認為，讓模型廠商提供行業模型本身就存在悖論。模型廠商訓練大模型的資料一般來自網際網路公開資料、採購的外部資料和企業自有資料。這些資料以通用為主，難以涵蓋具體行業。行業資料主要掌握在行業的頭部企業手中。但多數行業企業沒有模型廠商的研發實力，也難以脫離主營業務開發行業大模型。

對此，模型廠商的主流做法是和行業頭部企業共創開發行業大模型。但模型廠商不能將企業的資料納為己有，這就無法解決行業資料來源的問題。

一種觀點認為，行業頭部企業部署私有化大模型後，可以將相關經驗輸出為行業解決方案。另一種觀點認為，細分領域的科技公司也有機會成為行業大模型的推動者。不過多位消費、供應鏈、餐飲行業頭部企業的數字化負責人表示，目前沒有在業內看到完善的私有化模型。

缺少行業模型的後果是，大模型的準確率不足，和行業核心業務適配度低。一位給國內頭部廠商做模型私有化部署的代理企業負責人告訴我們，截至目前，他給4-5家能源、金融、電信行業的企業推銷過大模型，一開始這些企業都有興趣，其中兩家還進入了POC（Proof of Concepts的縮寫，意為“概念驗證”。它是一種解決方案，用於驗證某個概念的有效性和適用性）階段，但最後一家都沒有買單。

核心原因是大模型準確率不足，最高只能達到70%左右。企業級應用對大模型的準確率要求越高越好，準確率達95%是一個門檻。目前國內主要模型廠商的解決方式是透過提高底層模型能力，提高大模型應用的準確率。

另一方面，具體場景模型的缺位，同樣阻礙了大模型的落地。肆拾玖坊正在探索將圖片模型落地酒品包裝設計。他們嘗試了多個開閉源的生圖模型，沒有發現可以直接應用的產品。

張鵬解釋，包裝設計和其他平面設計不同，印刷要求解析度10M以上的圖片；公司產品的核心受眾是國內中年男性，包裝設計要符合他們的審美；包裝設計還要涵蓋商標文字資訊。

而現在市場上文生圖模型生成的圖片精度不達印刷要求；圖片風格以二次元為主，即便微調模型後，也難以生成令人滿意的符合醬酒設計的中式和新中式風格；能在圖片上準確生成文字的模型也有限。

理論上，服務商對圖片模型進行再訓練和工程化開發，就能打造一款包裝設計的大模型應用。但張鵬接觸的幾個服務商都對此表示興趣不大。因為這意味著數十萬元的研發投入和更長的商業轉化週期。

多數服務商只希望賣通用大模型技術，並捆綁銷售算力、雲等現成的配套設施。品牌方沒有訓練模型解決行業問題的能力。這就造成了大量需求服務的空缺。

大模型人才，既貴且少

一個事實是，目前能夠落地大模型技術的企業是少數。多數企業因為數字化基礎薄弱，缺乏對大模型技術的人才和認知積累。

某全球某頂級飲料國內代理商的數字化負責人告訴我們，他所在的公司從今年1月就開始透過各種渠道發出招聘資訊，希望找到一位有諮詢背景的大模型技術人才推動技術落地。到了5月下旬，這個人依然沒有找到，其所在部門提供的技術方案還是傳統的決策式AI。

傳統企業如果無法從內部培養或從外部引入AI人才，就難以跨越對新技術的認知鴻溝。

對產業企業來說，從外部引入大模型人才難度很大，因為它要和科技企業競爭。2023年11月脈脈高聘人才智庫釋出的《2023人工智慧人才洞察》顯示，網際網路、新生活服務、遊戲等企業對AI人才的需求最大。2023年前八個月人工智慧新發崗位開出的平均薪資為46518元，較2022年提升6.16%。

其中，資料探勘、演算法研究員、演算法工程師平均月薪超過5.1萬元，年薪（不包括年終獎）超過61萬元。與之相對，2023年國家統計局公佈面向社會生產和生活服務的IT崗位（城鎮私營單位資訊傳輸、軟體和資訊科技服務業）平均年薪僅為15.6萬元。

AI人才可以帶來技術認知和儲備。有意願招聘AI人才和已經有AI人才儲備的企業，更容易落地大模型。由於AI人才的投入不菲，企業決策者對引入AI人才和落地大模型的態度將起到關鍵作用。

楊炫之指出，那些在過去曾從數字化建設中獲益的決策者，更願意投資新技術。否則，即便有專業的技術人員告訴他們大模型的價值，決策者也難以理解和相信。“只有見過、用過、感受過技術好處的人，才能在新技術出現時願意投入。”

蒙牛、海底撈大模型落地“快”，就是因為企業的決策者早就嘗過數字化的甜頭。海底撈從2016年開始加大對數字化轉型的投入。公司財報顯示，海底撈2018年上市的發行所得款中20%（約14.6億港元）將用於“開發及使用新技術”，2018年以來，這筆資金每年消耗上億港元。

楊炫之提到，海底撈的企業文化和組織架構支援技術團隊在多個業務場景試驗大模型。同時，海底撈所在的餐飲業已發展上千年，行業通用屬性強，適合目前的大模型落地。作為行業頭部企業，海底撈可以獲得模型廠商的貼身服務，解決大模型落地的工程化問題。

然而，如蒙牛、海底撈一樣在過去幾年投資創新技術並獲益的企業是少數。國際管理諮詢和資訊科技服務公司埃森哲釋出的《2023中國企業數字化轉型指數》顯示，受宏觀環境影響，中國企業聚焦運營和成本最佳化，創新力度明顯減弱，2023年業務創新活躍的企業佔比降至9%，較2022年下降約一半。過去六年，參與數字化業務創新的被調企業佔總數的峰值為17%。