DeepSeekR1本地化部署Ollama+Chatbox打造最強AI工具

2025-05-16 20:56 芋道原始碼

👉 這是一個或許對你有用的社群
🐱 一對一交流/面試小冊/簡歷最佳化/求職解惑，歡迎加入「芋道快速開發平臺」知識星球。下面是星球提供的部分資料：
👉這是一個或許對你有用的開源專案
國產 Star 破 10w+ 的開源專案，前端包括管理後臺 + 微信小程式，後端支援單體和微服務架構。
功能涵蓋 RBAC 許可權、SaaS 多租戶、資料許可權、商城、支付、工作流、大屏報表、微信公眾號、ERP、CRM、AI 大模型等等功能：
  • Boot 多模組架構：https://gitee.com/zhijiantianya/ruoyi-vue-pro
  • Cloud 微服務架構：https://gitee.com/zhijiantianya/yudao-cloud
  • 影片教程：https://doc.iocoder.cn
【國內首批】支援 JDK 17/21 + SpringBoot 3.3、JDK 8/11 + Spring Boot 2.7 雙版本 
來源：blog.csdn.net/weixin_50776420

一、Ollama

下載 Ollama

https://ollama.com/
  • Ollama 是一個用於管理和部署機器學習模型的工具。
  • 目前 Ollama 支援 macOS、Linux、Windows，選擇相應的系統下載即可。
安裝後執行軟體，在工作列確認在右上角出現這隻 小羊駝🦙 圖示

選擇模型

點選Search models 搜尋框，第一條就是 deepseek-r1 模型。
這裡我們發現了多個不同大小的模型，檔案大小適配不同的裝置
DeepSeek R1提供多個版本，引數量越大，模型通常越強大，但也需要更多的計算資源。
比如1.5B代表有15億個引數。
藉助網上大佬們整理的表格供大家參考，來確認你的電腦可以執行哪個模型：

執行模型

執行模型很簡單：確定模型後，複製這條指令到終端裡
當進度條跑滿時，恭喜，你的電腦已經擁有了頂級的推理能力

使用 && 測試

這裡我已經提前下好了，使用 ollama 提供的終端指令 ollama list 可以看我們電腦上已經部署了哪些模型，然後使用 ollama run 對應的模型 就可以了
輸入 /bye即可退出
  • ollama 命令檢視

admin@admindeMacBook-Pro ~ % ollama

Usage:

  ollama [flags]

  ollama [

command

]
Available Commands:

  serve       Start ollama

  create      Create a model from a Modelfile

  show        Show information 

for

 a model

  run         Run a model

  stop        Stop a running model

  pull        Pull a model from a registry

  push        Push a model to a registry

  list        List models

  ps          List running models

  cp          Copy a model

  rm          Remove a model

help

        Help about any 

command

Flags:

  -h, --

helphelpfor

 ollama

  -v, --version   Show version information
Use 

"ollama [command] --help"for

 more information about a 

command

.

雖然這裡終端已經可以使用了，但是還是不太方便。
  • 這裡就有人要問博主了，你推薦的模型確實挺不錯的，但是還是太吃操作了，有沒有更加方便的使用方式呢？
  • 有的兄弟有的，像更方便的使用方式那麼就是 Chatbox
基於 Spring Boot + MyBatis Plus + Vue & Element 實現的後臺管理系統 + 使用者小程式，支援 RBAC 動態許可權、多租戶、資料許可權、工作流、三方登入、支付、簡訊、商城等功能
  • 專案地址：https://github.com/YunaiV/ruoyi-vue-pro
  • 影片教程：https://doc.iocoder.cn/video/

二、Chatbox

瀏覽器搜尋 Chatbox 並下載客戶端或者網頁版都可以
1.設定語言為中文並儲存
2.點選設定選擇模型為 OLLAMA API
為了確保可以連線到本地服務，大家按照提供的教程設定一下，不同的作業系統設定不太一樣，然後選擇 R1模型並儲存
3.連線到本地服務教程跳轉
現在你就可以在 瀏覽器/客戶端 上流暢的使用 R1 了。

建立你的專屬 GPTs

點選我的搭檔，建立搭檔，給ai角色設定人格，你也可以選擇現有的搭檔，一個資深的行業專家就出現了。
基於 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的後臺管理系統 + 使用者小程式，支援 RBAC 動態許可權、多租戶、資料許可權、工作流、三方登入、支付、簡訊、商城等功能
  • 專案地址：https://github.com/YunaiV/yudao-cloud
  • 影片教程：https://doc.iocoder.cn/video/

三、共勉

以上就是我對 DeepSeek R1本地化部署 Ollama + Chatbox 打造最強 AI 工具 的理解，覺得這篇部落格對你有幫助的，可以點贊收藏關注支援一波~
歡迎加入我的知識星球，全面提升技術能力。
👉 加入方式，“長按”或“掃描”下方二維碼噢：
星球的內容包括：專案實戰、面試招聘、原始碼解析、學習路線。
文章有幫助的話，在看，轉發吧。
謝謝支援喲 (*^__^*）

相關文章