北京大學出的第四份DeepSeek教程來了！（PDF可下載）

DeepSeek 的資料，我們分享了清華大學出品的 DeepSeek 入門、職場、生活和學術與科研。之後分享了三份北京大學團隊出的 DeepSeek 資料。前三份分別講了 “DeepSeek 和 AIGC”、 DS 提示詞工程和落地場景、DS 的落地應用。這是北大出品的第四篇，主要聚焦在 DS 私有化部署。

這份 PDF 的重點在於討論私有化部署 DeepSeek 模型。可以將“部署”理解為“安裝”或者“執行”。“私有化”則意味著將 DeepSeek 模型安裝在您自己的電腦、伺服器或者專門的裝置上執行，而不是僅僅透過網際網路使用別人提供的雲服務。

那麼，為什麼要進行私有化部署呢？這份 PDF 提到了幾個重要的原因：

資料安全和隱私

對於企業或個人而言，將敏感資料交給第三方雲服務可能存在一定的風險。私有化部署可以將資料完全掌控在自己手中。
定製化需求

不同的應用場景可能需要不同型別的模型。DeepSeek 提供了各種版本，包括“滿血版”（功能最全）以及各種“蒸餾版”和“量化版”（功能有所簡化但更輕量級），還有針對特定行業和任務的專業模型. 私有化部署可以讓您根據自己的需求選擇最合適的版本。
成本效益

長期來看，特別是對於需要頻繁使用大模型的場景，私有化部署可能會比持續使用雲服務更經濟。
效能和穩定性

在本地執行模型可以減少對網路連線的依賴，提高響應速度和穩定性。

這份文件主要介紹了以下幾個方面的內容，幫助不同型別的使用者進行 DeepSeek 的私有化部署：

DeepSeek 模型的基礎知識

介紹了什麼是人工智慧大模型，DeepSeek 模型的不同系列（例如 V2、V3 和 R1）及其特點和適用場景。DeepSeek R1 是一個側重於複雜推理的模型，而 V2 和 V3 更偏向於生成任務。PDF 還解釋了“蒸餾”和“量化”等技術，這些技術可以讓更小的模型也能具備一定的能力。
個人電腦上的部署

針對普通使用者，PDF 介紹瞭如何在自己的電腦上安裝和體驗 DeepSeek 的簡化版本（蒸餾版）。它評估了所需的硬體要求，並推薦使用Ollama 命令列工具來高效地部署模型。為了提升使用者體驗，還介紹了Open WebUI 和 Chatbox 等前端介面工具的配置和使用方法。Ollama 就像一個便捷的工具箱，可以幫助您輕鬆下載和執行大模型。
企業級的專業部署

對於有更高要求的企業使用者，PDF 探討了如何將 DeepSeek 的各種版本部署在專業的推理伺服器上。它介紹了基於 Transformers 和 vLLM 的高效能部署方案，並分享了真實的企業案例和經驗。vLLM 是一個可以顯著提升大模型推理速度的框架。
低成本部署方案

針對計算資源有限的場景，PDF 專門介紹了Unsloth R1 動態量化部署的三種實現路徑，包括基於 llama.cpp、KTransformers 以及 Ollama 框架的動態量化部署. 這些方案旨在降低部署成本，但可能會犧牲一定的推理速度和準確性.llama.cpp 是一個可以用 C++ 編寫的庫，可以在 CPU 上執行大型模型.KTransformers 是一種利用 CPU 和 GPU 混合推理的技術。
DeepSeek 一體機

作為一種更專業的解決方案，PDF 還介紹了 DeepSeek 一體機。這是一種集成了算力、大模型和應用的一體化產品，可以為企業提供一站式的私有化部署方案，降低智慧化轉型的門檻。