DeepSeek接入個人知識庫,Windows和Mac電腦,最新安裝包釋出!

你好,我是郭震
這篇文章主要介紹DeepSeek接入個人知識庫,完整本地執行部署方案。
DeepSeek接入本地,執行個人知識庫,最大好處就是確保私密檔案和資料計算安全,不必把自己的檔案全部跑到別人雲端伺服器。
在過去一個月,我們逐步迭代了這樣的軟體,DeepSeekMine,到今天其Windows和Mac版本最新軟體安裝包(v0.5)已全部開發並打包好。
軟體全部開源,支援一鍵安裝,開箱即用,本地知識查詢高效,感興趣的讀者可以獲取試試。
1 軟體使用演示
第一步,如下進入軟體首頁,點選「新建」按鈕,建立專屬分類知識庫,並命名為:個人藏書知識庫,如下所示:
第二步,點選「匯入個人知識」:
上傳自己的檔案,目前支援Word和PDF上傳,後續會支援excel,PPT,不同程式語言程式碼格式等:
第三步,點選右上角的「配置」按鈕,配置本地大家已經安裝的DeepSeek,若沒有安裝,可以透過Ollama安裝,大家根據自己電腦下載對應的DeepSeek版本。
一般的執行deepseek-r1:1.5b大模型需要3G視訊記憶體,目前新買的大部分電腦應該滿足這個要求,若是不滿足想更換電腦的朋友,最低電腦配置大家可以參考:GPU顯示卡NVIDIA GTX 1650 4GB 或 AMD RX 5500 4GB,記憶體(RAM):16GB;對於 Mac 使用者,配備 M1、M2 或 M3 晶片的 MacBook Air(至少 8GB 記憶體)
安裝Ollama後,執行下面這條命令,安裝1.5B模型:

可以執行下面命令,在本地和DeepSeek對話:
接下來在咱們的DeepSeekMine軟體裡,如下中間面板,進行對個人知識的多輪問答:
軟體支援程式碼高亮顯示:
軟體配備筆記儲存功能:
以上就是DeepSeekMine軟體的主體功能介紹。
2 軟體獲取
今天釋出最新v0.5軟體,支援Windows、Mac電腦,雙擊一鍵安裝:
安裝後,開箱即用,獲取方法在下面我的公眾號回覆:知識庫,即可獲取:
3 軟體更新計劃
下一版軟體升級重點放在更新核心上,以及支援更多檔案讀入格式。
不少讀者可能關心,DeepSeekMine軟體核心,在這裡我給大家介紹下,感興趣的可以看看。
主要三個核心步驟,第一,後臺預處理階段,主要對上傳的文件,做切片最佳化,根據微調的向量模型,非同步計算嵌入向量:
第二步查詢階段,我們會根據使用者輸入問題,做關鍵詞粗曬,向量匹配,Rerank排序;第三步大模型響應階段,這步主要是提示詞工程,設計到多個提示詞模版最佳化:
技術主要包括,Meilisearch關鍵詞粗曬+嵌入向量細篩(根據微調後的嵌入向量模型),Rerank演算法,分詞技術,長文字切分、切片合併演算法,提示詞工程等。
下一個版本將會完全實現上面三階段的每個模組,這裡面我們最想解決的是,如何保證RAG準確率同時,最大程度提升響應時間,儘量讓普通電腦也能秒級響應。目前,主流的本地知識庫查詢響應時間普遍在2分鐘以上,我們最想幫助大家解決這個痛點,讓RAG在本地計算也能降到秒級。
最後總結一下
本文介紹新發的軟體v0.5,如何使用,如何獲取一鍵安裝包,目前支援Windows,Mac.
下一版將會重點最佳化RAG精度,介紹了軟體使用的主要技術方案,涉及到的技術,技術難點,我們有信心克服這些困難,給大家帶來更快的訪問體驗。
以上全文1852字,13圖。製作軟體不易,如果覺得這個軟體對你有用,可否點個關注。給我個三連擊:點贊、轉發和在看。若可以再給我加個⭐️,謝謝你看我的文章,我們下篇再見。


相關文章