感謝DeepSeek!百度今天宣佈“大模型免費+開源”,本地部署DS的保姆級教程來了

2025 年 2 月 14 日,百度宣佈了兩個大訊息,文心大模型不止要免費,而且還要開源。
雖然李廠長曾在 2024 年 7 月稱“開源是智商稅”,但如今百度卻選擇開源,背後正是 DeepSeek 等開源模型的成功實踐。
不過就在春節期間,開源的 DeepSeek 因使用者激增頻繁出現“伺服器繁忙”,讓無數使用者感嘆:再強大的 AI,也抵不住流量洪流的衝擊。
與其在等待中無奈,不如將 DeepSeek 做本地部署,享受穩定的使用體驗。
本文將手把手教你如何將 DeepSeek 部署到自己的電腦上,不需懂程式設計、無需等待,讓你的 AI 助手從此告別“伺服器繁忙”,隨時隨地為你服務。
本地部署的好處和缺點
  • 好處:從根本上避免因伺服器過載導致的訪問問題。資料無需上傳雲端,也不用擔心洩露風險。
  • 缺點:對個人硬體有要求,有一定技術門檻和維護成本。
好處和缺點不止上面這幾點,本文不展開細講。你直接問 DS 也能得到答案。
DeepSeek-R1 各版本的特點及適用場景
DS-R1 有多個版本,它們的特點和適用場景請直接看下方表格:
本文將主要關注輕量級模型,這也是適用於我們大多數個人使用者的部署方式。
如何本地部署?
部署方法其實有很多,本文介紹基於 Ollama 實現本地部署。

Ollama 是一個支援在本地執行大型語言模型的工具,能夠幫助使用者快速部署和管理模型。

1、安裝 Ollama
從 Ollama 官網下載:https://ollama.com/download ,選擇對應的版本下載並安裝。

安裝成功後桌面就有 Ollama 的羊駝標誌。

2、部署 DeepSeek R1 模型
Ollama 官網支援多種 DeepSeek-R1 版本,可以在 https://ollama.com/search
看到 1.5B 到 671B 共 7 個不同規模的共 29 個不同版本,其中包括一些基於開源模型 Llama 和 Qwen 進行微調、蒸餾或量化處理後得到的模型。
DeepSeek-R1 1.5B 版本對硬體配置要求最低,本文就以它為例。
雙擊羊駝啟動 Ollama,然後開啟終端工具,複製貼上執行下方命令:
ollama run deepseek-r1:1.5
成功後會顯示 success,我嘗試問了它是誰。我再問了它“如何學習程式設計”,也是給了八點建議。
如果你是技術流使用者,到這一步就已經算是成功部署 DeepSeek R1 模型啦。
但對普通使用者來說,命令列不友好,還需要配置一個好用的前端,本文選用 Chatbox。
3、安裝 Chatbox
Chatbox 是一款開源的 AI 客戶端,旨在為使用者提供便捷的本地化 AI 對話體驗。它支援多種大型語言模型(LLMs),包括 OpenAI 的 GPT 系列、本地部署的模型(如 LLaMA、DeepSeek 等),並提供了一個直觀的圖形介面,方便使用者與 AI 模型互動。
開啟 Chatbox 官網(https://chatboxai.app/zh )下載安裝。
安裝後開啟客戶端,從左下角點選“設定”,
  • “模型提供方”選擇 Ollama API,“API 域名”保持預設配置,無需更改,
  • 它可以自動識別已透過 Ollama 安裝的模型
  • “上下文訊息數量的上限” 預設是 20,調整到“不限制”
儲存設定後,我們就可以在聊天視窗中和 DS 聊天了。
如果你有多個本地模型,還可以隨時切換。
到這裡為止,我們就順利地在本地部署 DeepSeek。✿✿ヽ(°▽°)ノ✿
後記
我在兩臺電腦上跑了模型。
  • 第一臺是 8G 記憶體的 M1 版 Mac,我安裝了 1.5B 和 7B 兩個模型。由於配置較低,當與 7B 模型聊天時,電腦幾乎“假死”,完全動不了了。😅
  • 另外一臺是 16G 記憶體 M4 晶片的 Mac min 安裝了 14B,跑起來還是順暢的。
DS-R1 1.5B 和 14B 的對比
我在兩臺裝置上分別問了一些相同的問題。
“你是誰?”

DS-R1:14B,命令列

DS-R1:1.5B,命令列
“你猜一下 MaxAiBox.com 這個網站是做什麼的?”

DS-R1:14B,命令列

ds-r1:1.5,Chatbox
因為 MaxAIBox 這個網站不在 DS 訓練語料庫,所以 DS 只能從從名字著手開始猜了。從兩個模型對話來看,1.5B 和 14B 的模型差別非常明顯。電腦配置夠的情況下,儘量使用更大的模型。
此外,在命令列和大模型聊天,體驗不好,大家還是安裝前端客戶端工具吧~
本文所用到的 AI 工具,MaxAIBox 均已收錄:
  • DeepSeek:https://maxaibox.com/tools/1202.html
  • Ollama:https://maxaibox.com/tools/1599.html
  • Chatbox:https://maxaibox.com/tools/1610.html

相關文章