作者 | 雲鵬
編輯 | 漠影
日活超3000萬人的DeepSeek已成為全球AI產業當紅炸子雞，也被視為中國AI的名片，普通人使用AI工具更容易的同時，企業使用者的需求也在加速湧現。
企業使用者對DeepSeek私有化部署的需求極為迫切。一方面，資料安全成為懸在企業頭頂的“達摩克利斯之劍”。在網際網路上，企業資料如同暴露在“玻璃屋”中，可能被竊取或篡改。
另一方面，企業對DeepSeek的個性化定製需求和長期成本考量日益凸顯。例如，醫療、電商等行業每天產生海量資料，按現有市場上主流的API呼叫使用量計費模式顯然不划算。
此外，國產AI晶片企業也急需更快更好地適配DeepSeek、充分釋放算力，藉著DeepSeek熱潮，真正與海外晶片巨頭掰掰手腕。
面對這些需求，清華系AI Infra領域明星創企——清程極智，給出了自己的答案：DeepSeek私有化部署方案。
近日，清程極智基於十餘家國產晶片，包括壁仞科技、寒武紀、海光資訊、摩爾線程、沐曦、清微智慧、昇騰、燧原科技、思朗科技、天數智芯、太初元碁等（按字母排序），推出了DeepSeek私有化部署方案。
清程極智認為：對於企業使用者而言，私有化部署為企業提供了一個“資料保險箱”，從物理層面隔絕外部威脅，確保資料主權牢牢掌握在企業手中，同時私有化部署不僅能滿足企業的個性化需求，還能實現長期成本最佳化。
能夠基於國產晶片半壁江山推出方案，也已證明行業達成了共識：企業利用DeepSeek私有化部署不再是可選項，而是贏得市場競爭、實現長遠發展的必由之路。
新品釋出之際，智東西獨家對話了清程極智CEO湯雄超，對其算力系統軟體背後的硬核黑科技、撬動十餘家國產晶片的原因，以及清程極智對AI Infra領域的深入思考都進行了探討。
01.
為晶片和大模型架橋
私有化部署切中大模型應用關鍵痛點
從2022年初露鋒芒到2023年爆發式湧現，再到2024年商業化落地，邁入2025年，AI大模型的發展更加聚焦成本和效率，這也是行業對大模型落地應用關注的焦點。
在這一大背景下，不論是大模型廠商、算力晶片廠商還是算力平臺，都離不開優秀的算力系統軟體支援——算力系統軟體的技術創新和突破，可以顯著降低大模型的部署成本、提升大模型執行效率，幫企業降本增效。
用湯雄超的話來說，清程極智要做的是連線晶片跟大模型應用的“橋樑”，打通應用需求跟算力硬體，把底層硬體的算力更充分地發揮出來，讓上層應用可以有更好的落地體驗。
在這樣的大背景下，清程極智自研了大模型推理引擎，並推出了MaaS服務以及推理一體機。
近日清程極智的MaaS平臺剛剛完成了滿血版DeepSeek-R1大模型的上線適配，其自研清程赤兔引擎透過一系列效能最佳化可以讓DeepSeek-R1在速度上實現提升。
▲清程極智MaaS平臺上線滿血版DeepSeek-R1
而此次清程極智要推出的DeepSeek私有化部署方案，則為企業和開發者們提供了一種更靈活、更高效地接入DeepSeek的模式。
私有化部署不同於公有云服務，其方案中既包含完全本地化的部署方式，也包含透過雲平臺分配專屬計算資源，進而實現企業的私有化部署方式。
為何大模型私有化部署如此重要？這與當下行業需求的高速增長、行業發展到新時期所面臨的需求痛點以及大模型私有化部署解決方案帶來的諸多優勢密切相關。
從風險規避和資料合規性的方面來看，如今國內外都已陸續出臺資料安全相關法律法規，私有化部署可以讓企業完全掌控資料的生命週期，避免跨境傳輸風險。
比如醫療、金融等行業對資料的本地化有強制要求，私有化部署是唯一的合規途徑。
與此同時，私有化部署可以實現更深度的模型定製化，企業可以透過私有資料持續訓練模型，讓通用大模型轉化為垂直領域的“專家”，進一步提升大模型服務企業、提高企業生產效率的表現。
從安全的角度來看，私有化部署可以實現硬體級加密、資料脫敏，防護標準更高。
從行業發展角度來看，如今大模型能力已經廣泛進入商業化落地應用階段，企業需要將AI能力真正地嵌入到核心業務流程之中，這是很關鍵的，而私有化部署可以幫助企業更好的實現這一點。
最後從非常實際的提升效能角度出發，私有化部署也有著明顯優勢。湯雄超談道，其實大部分企業都是希望在既有業務中融入AI的能力，並非“從0開始”，因此企業更多希望能夠回到自己的業務系統，構建在自己的私有化環境中。
從效能上來說，如果業務一部分在雲端一部分在本地，資料傳輸的開銷很大，並且效率效能也會受到影響，採用私有化部署，可以讓企業所有業務模組都在熟悉、可控的環境中，資料互動更高效。
當然，私有化部署能夠帶來的高穩定性對企業業務來說也至關重要，相比公有伺服器容易受到巨大流量的衝擊，私有算力顯然更有保障，穩定性更好。
如今各大智慧手機巨頭紛紛官宣自家AI智慧體支援DeepSeek，使用者透過各傢俬有云部署的DeepSeek體驗AI，就會更少遇到“伺服器繁忙，請稍後再試”的尷尬。實際上這就是私有化部署帶來優勢的一種直觀體現。
02.
大模型算力系統軟體創新
讓國產AI晶片走的更快更遠
可以看到，在DeepSeek加速深度融入行業之下，大模型私有化部署已經成為行業發展的重要趨勢之一，而清程極智基於十餘家國產AI晶片廠商推出的DeepSeek私有化部署解決方案，正是順應這一趨勢而來。
實際上，大模型高效地私有化部署不僅可以給應用大模型的企業客戶帶來上述諸多好處，對於國內AI晶片企業也有著重要意義和價值。
目前國產AI晶片領域雖然不乏許多表現亮眼的企業，但總體來看行業仍然是學習、追趕的態勢，如何讓更多企業用上國產AI晶片，是非常關鍵的一步。
要不要用？最核心的一個標準仍然是效能，效能最直觀的反映就是使用者最終的使用體驗，模型應用的效果是否是真正“可用”的。
而清程極智恰恰做的就是連線國產AI晶片和大模型，讓晶片可以更高效地執行大模型應用，進而提升效能表現。
從商業角度來看，國內的AI晶片勢必要面臨跟英偉達這樣的成熟海外巨頭的競爭，因此提升晶片效能就顯得十分關鍵。透過系統軟體的最佳化，在同樣的硬體條件下實現更高的效能表現，就意味著成本的下降、價效比的提升，進而產品綜合競爭力就變強了。
湯雄超提到，從長遠視角來看，只要國產晶片平臺可以達到與海外產品一樣的體驗，大家必然會傾向於國產，進而幫助晶片企業提升國內市場的份額。如果更進一步在價效比上也可以追平海外產品，那國產晶片企業將會擁有更多走向全球市場的機會，這裡面的想象空間是巨大的。
目前清程極智提供的大模型端到端的訓練和推理，及配套的效能最佳化服務，已經幫助數款大模型實現了在多款國產晶片上的快速預訓練和高效能推理最佳化，降低了大模型的部署成本，提升了大模型執行效率。
03.
大模型效率提升近100倍
硬核自研技術創新仍是最強王牌
在大模型應用與晶片之間架起橋樑，實現大模型效率的提升，進而提升國產AI晶片的價效比，這樣的邏輯聽起來並不複雜，但實際上，要真正實現算力系統軟體的技術創新，存在諸多挑戰，這也是清程極智的核心技術優勢所在。
在湯雄超看來，他們的核心優勢主要在兩方面：叢集算力的高效利用和國產晶片的深度適配最佳化。
他提到，過去十幾年，技術團隊在清華實驗室時期就做了非常多的工作，在叢集算力高效利用和國產晶片適配最佳化方面積累了大量經驗，而這兩個問題也是做好AI算力系統軟體的核心難點所在。
根據官方資訊，清程極智由清華大學翟季冬教授發起並任首席科學家，團隊孵化於清華大學計算機系，在算力系統最佳化領域有著十餘年經驗積累，目前已經與國內多個智算超算中心、知名晶片廠商及大模型廠商達成商業合作。
在叢集算力使用方面，過去的問題主要集中在訓練方面，而DeepSeek的火爆也帶來了叢集算力在推理方面的新挑戰，如何高效地支援671B引數的大模型執行，有諸多問題需要解決。
湯雄超提到，真正掌握叢集算力使用方式並且可以運用的很好的團隊並不多。
目前清程極智掌握了並行系統、計算框架、通訊庫、運算元庫、AI編譯器、程式語言、排程系統、儲存系統、記憶體管理、容錯系統等10個關鍵基礎軟體的核心技術，並在其中過半數領域擁有自研產品，解決方案覆蓋大模型落地全棧技術要求。
除了叢集算力高效利用，清程極智的另一個優勢是對於國產晶片的深度適配最佳化。
實際上，這是一個大量考驗Know-how的領域。目前行業長期習慣了英偉達晶片，其晶片的生態軟體系統都相對完善，使用更簡單，相比之下，國產晶片在軟體生態方面不夠完善，實現效率不夠高效，有些模組是缺失的，這都是算力軟體系統廠商需要解決的問題。
為了解決這些難題，清程極智選擇了一條更具挑戰的技術路線：自研大模型推理系統。
由於英偉達生態長期佔據主導地位，目前行業中的很多開源框架、軟體從設計思路上就更適合英偉達晶片，直接移植很容易遇到“水土不服”的問題，國產AI晶片在設計、效能方面都與英偉達晶片有所區別，一些原本起到促進作用的最佳化模組對國產AI晶片來說可能會造成反向負面效果。
因此針對具體國產晶片進行針對性適配和最佳化就顯得尤為重要。在這一領域，清程極智的團隊有豐富經驗，其自研推理系統從軟體設計層面就是為多樣性晶片構成去做的，因此在國產AI晶片適配大模型方面有更高的效能提升上限。
目前，清程極智已經做了面向大模型算力系統的全棧建設及最佳化。從實際綜合資料來看，其解決方案可以讓大模型應用成本降低2個數量級，讓大模型執行效率最高提升近100倍。
縱觀其模型系統級解決方案，具備多層次的算力最佳化優勢：自研推理系統可以更好地應對低延遲、高併發的推理需求；自研編譯器則可以使新型運算元更高效地適配，讓複雜模型在異構算力上跑的起來、跑的更好；與此同時，其算力系統軟體相容性強，可以同時支援多種國內外算力平臺。
04.
結語：堅持核心技術投入
抓住AI滲透千行百業新機遇
今天的中國智算產業，正在經歷前所未有的新變革，迎來新的機遇和挑戰。正如湯雄超所說，AI行業發展很快，唯有堅持核心技術創新的投入才是硬道理。未來清程極智會繼續在叢集計算、國產算力適配最佳化方面堅持技術創新。
如果說早期的AI只是大公司的“嚐鮮”產品，那麼如今越來越多的中小型企業都開始使用AI，AI已經逐漸變成企業的必需品。另一方面，國產晶片發展勢不可擋，中國大模型、中國AI技術的發展，必然需要有可靠可控的堅實算力底座。
解決這些需求和挑戰，正是DeepSeek這類大模型私有化部署的意義和價值所在，也是清程極智的方向所在：基於國產晶片半壁江山之力，用系統軟體創新在大模型和晶片之間架起橋樑，讓企業客戶享受到AI紅利，讓國產晶片在新一輪AI技術爆發中擁有更高增長潛力和更廣闊的想象空間。
（本文系網易新聞•網易號特色內容激勵計劃簽約賬號【智東西】原創內容，未經賬號授權，禁止隨意轉載。）