人工智慧正在革新人類交流與資訊處理的方式,但商業化的 AI 模型常會收集並利用我們的查詢與數據來作為訓練資料。這樣的情形令許多人開始探索本地自託管 AI 的可能性,因為這不僅保障了數據的隱私,也避免了持續的訂閱費用和雲端依賴。DeepSeek 的開源模型(尤其是 DeepSeek-V3 和 DeepSeek-R1)恰好提供了這種可能,讓使用者能在個人電腦上自主控制 AI 的運行,並能根據需求進行調整。

深入探究 DeepSeek R1 模型

DeepSeek R1 模型擁有出色的編碼表現,對硬體的要求相對較低,是本地自定義聊天機器人的絕佳選擇。該模型基於強大的 Transformer 架構,能生成類人類的文本,而定制化後的版本則可專注在某特定領域,無論是客服支持、教育輔助工具或是科研研究,均能滿足需求。DeepSeek 的模型還提供了多樣化的版本選擇,具備不同的參數規模(從 1.5B 到 70B),在保持強大推理能力的同時,顯著減少了硬體需求。

如何選擇適合的自定義設置

選擇合適的自定義設置取決於多種因素:

  1. 處理的資訊是否敏感,不宜在第三方伺服器運行?
  2. 你是否具備強大的硬體支持?
  3. 是否需要在無網路的情況下使用助手?
  4. 是否希望避免支付訂閱費?
  5. 團隊成員是否需要共享訪問權限?

考量這些問題後,本文將探索三種有效的設定配置,幫助你在本地運行 DeepSeek R1,並確保數據私密性。

No-code 方法:使用 CodeGPT 快速發布 DeepSeek R1

CodeGPT 提供了一種無需編碼的,即開即用的解決方案,特別適合希望快速設置並享有共享訪問權限的團隊。CodeGPT 並非僅限於雲端,因此使用者可以在本地的 LLM(諸如 DeepSeek R1)上完成提示、代碼補全以及單元測試等功能。而該平台還支持廣泛的團隊任務管理,以及眾多主流編譯開發環境(如 VS Code)。

計算需求:

  • RAM:1GB 以上(較大模型需要更多)
  • 硬碟空間:20MB 以上(本地模型需要額外空間)
  • CPU:Intel Core i5 以上
  • 作業系統:macOS(除 Sonoma 外),Windows 11 或更新版本,Linux(2024年開始支持)
  • IDE:VS Code 1.96.0 以上
  • 需要網路訪問以使用 CodeGPT

執行步驟:

  1. 在 CodeGPT 網站上註冊帳號,並創建新的 AI 代理,選擇 DeepSeek R1 作為模型。
  2. 上傳文件或 GitHub 儲存庫作為代理的數據源。
  3. 在“說明”標籤下設置系統提示,限制響應內容。
  4. 測試準確性後發布代理,並通過公眾鏈接或在組織內分享。
  5. 定期檢查代理的表現,利用分析數據進行調整。

基於代碼的方法:在 LM Studio 和 Ollama 上運行 DeepSeek R1

方法一:在 LM Studio 上運行 DeepSeek R1

LM Studio 提供了完整的數據主權和離線運行選擇,適合具備一定技術專業能力的用户。該平台簡化了模型發掘、下載和本地運行的過程,並提供兼容的 API 以實現無縫整合。

計算需求:

  • 最小16GB RAM(更多會更好)
  • 硬碟空間 20GB 以上
  • CPU:支持 AVX2 指令集
  • macOS:M1/M2/M3,Windows:x86 或 ARM,Linux:x86
  • 建議使用 GPU 提升性能(例如NVIDIA RTX 3070)

執行步驟:

  1. 從官網下載 LM Studio 並安裝。
  2. 開啟 LM Studio 並熟悉界面。
  3. 在“發現”標籤頁搜尋并下載 DeepSeek R1 的精簡模型。
  4. 選擇與硬體相匹配的量化版,點擊下載。
  5. 開啟 “聊天” 標籤,選擇並加載模型,開始互動。

方法二:在 Ollama 上運行 DeepSeek R1

Ollama 提供了一种流行的本地 LLM 運行方案,適合熟悉命令行操作的使用者,它支持多種 AI 模型,包括 DeepSeek R1,具有跨平台能力和較少的設置需求。

計算需求:

  • RAM:最低 8GB
  • 硬碟空間:500GB+
  • CPU:Intel Core i5 或更高
  • 操作系統:macOS、Linux 和 Windows

執行步驟:

  1. 安裝 Ollama。
  2. 使用命令下載 DeepSeek R1 模型。
  3. 啟動 Ollama 服務。
  4. 通過終端與模型交互。
  5. 使用 API 發送查詢。

本地發布 DeepSeek R1 模型,確保了使用者的數據私密性,同時提供了靈活的設置選擇。希望經由本文的介紹,能夠幫助你在本地探索 AI 的潛力,並激發更多的創新應用。