圖片來源：DeepSeek
在全球人工智慧競賽日益激烈的背景下，OpenAI、微軟和Meta等行業巨頭正紛紛押注“蒸餾”技術，以降低AI模型的成本，提高其普及率，使企業和消費者更容易獲取先進的AI能力。
這一技術的影響力在中國初創公司DeepSeek利用開源系統（如Meta和阿里巴巴的模型）打造高效AI模型後迅速擴大。DeepSeek的突破不僅挑戰了矽谷在AI領域的領導地位，也引發市場震動，導致華爾街投資者對美國科技巨頭信心下降，使其市值蒸發數十億美元。
蒸餾技術：讓“小模型”承載“大智慧”
蒸餾的核心原理是利用一個大型語言模型（“教師模型”）生成預測資料，並用這些資料來訓練更小、更高效的“學生模型”，從而將大模型的知識快速遷移到小模型上。
儘管蒸餾技術已存在多年，最近的技術突破讓行業專家普遍認為，它將成為AI創業公司的“降本增效”利器，使其能夠在不依賴龐大算力的情況下構建高效AI應用。
“蒸餾是一種近乎神奇的技術。”OpenAI平臺產品負責人Olivier Godement表示，“它能夠利用一個極其強大的前沿大模型，讓其‘教授’一個更小、更專注於特定任務的模型，使其擁有極快的執行速度和極低的計算成本。”
降本增效 AI能力觸手可及
像GPT-4、谷歌的Gemini和Meta的Llama這樣的超大規模語言模型，訓練和維護成本極為昂貴，儘管相關公司未披露具體數字，但業內普遍認為這一費用高達數億美元。
蒸餾技術的應用使得開發者和企業能夠以極低成本訪問大模型的核心能力，從而讓AI應用能夠更高效地執行在筆記型電腦、智慧手機等裝置上，加速AI技術的普及。
微軟便是這一策略的踐行者。作為OpenAI的最大投資者之一（累計投資近140億美元），微軟利用GPT-4蒸餾出小型語言模型Phi，推動其商業化落地。
然而，OpenAI認為DeepSeek可能利用蒸餾技術從其模型中提取資訊，以訓練競爭產品，涉嫌違反其服務條款。對此，DeepSeek尚未作出回應。
蒸餾的權衡：輕量化與效能之間的博弈
儘管蒸餾能夠大幅降低模型執行成本，行業專家也指出，這一技術在提升計算效率的同時，也不可避免地帶來一定的能力削弱。
“蒸餾是一個有趣的權衡過程——當你縮小模型時，勢必會降低其泛化能力。”微軟研究院的Ahmed Awadallah指出，“例如，一個蒸餾後的模型可能非常擅長總結電子郵件內容，但在其他任務上的表現可能不盡如人意。”
IBM研究院AI模型副總裁David Cox則認為，對於大多數企業而言，超大規模AI模型並非剛需，蒸餾後的模型已足以支撐客服聊天機器人等日常業務，並能在智慧手機等小型裝置上高效執行。
“只要蒸餾能顯著降低成本，同時提供符合預期的效能，就沒有理由不採用。”Cox補充道。
不過，這一趨勢也對AI巨頭的商業模式構成挑戰。即便開發者仍依賴OpenAI等公司的蒸餾模型，但由於這些模型計算成本更低，帶來的收入自然也相對減少。因此，OpenAI通常對蒸餾模型的使用收取較低費用，以匹配其較低的計算負載。
儘管如此，OpenAI的Godement仍堅信，大型語言模型在“高智慧、高風險任務”中仍不可或缺，企業願意為高精準度和高可靠性支付更高的費用。此外，大模型依然是創新能力的源泉，未來的新突破也將依賴於這些模型，隨後再被蒸餾至更小的模型中。
蒸餾：開源AI的勝利還是技術競爭的隱憂？
與此同時，OpenAI也在積極防止其大模型被用於競爭性蒸餾。公司專門設立了監控團隊，一旦發現使用者可能在大規模提取資料以訓練競爭產品，便會撤銷其訪問許可權。例如，OpenAI據稱已採取措施限制與DeepSeek相關的賬戶訪問其模型。但這些措施往往是事後補救，難以徹底杜絕此類行為。
“OpenAI一直試圖防止蒸餾被濫用，但完全避免幾乎是不可能的。”Contextual AI執行長Douwe Kiela表示，該公司正在開發面向企業的資訊檢索工具。
另一方面，蒸餾的廣泛應用也被視為開源AI的勝利。這一技術使得開發者可以更自由地利用開源AI系統進行創新。例如，DeepSeek的最新模型也採用了開源方式，向全球開發者開放。
Meta首席AI科學家Yann LeCun對此表示：“我們會立刻將蒸餾技術應用到產品中。這正是開源的精髓——所有人都能從彼此的進步中受益。”
然而，蒸餾技術的崛起也讓AI行業的競爭變得更加複雜。儘管領先的AI公司投入數十億美元推動模型能力提升，但競爭對手可以藉助蒸餾技術迅速跟進，正如DeepSeek的最新成果所展現的那樣。這引發了行業對“先發優勢”是否仍然成立的深思。
“在當今AI行業瞬息萬變的環境下……你可以投入巨資研發一個突破性的模型，但幾個月後，競爭對手就能用蒸餾技術迎頭趕上。”IBM的Cox表示，“這無疑讓AI市場變得更加複雜，商業模式也更加難以預測。”
參考資料
[1] China's Honor announces $10 billion investment in AI devices, https://www.reuters.com/technology/artificial-intelligence/chinas-honor-announces-10-billion-investment-ai-devices-2025-03-02/
歡迎掃碼加群參與討論
———END——–
極思 TopMinds 相信認知能夠跨越階層，
致力於為年輕人提供高質量的科技、資本和商業內容。