一：?? Ollama

?? 下載 Ollama

??‍?? https://ollama.com/

• Ollama 是一個用于管理和部署機器學習模型的工具。
• 目前 Ollama 支持 macOS、Linux、Windows，選擇相應的系統(tǒng)下載即可。

?? ?? 安裝后運行軟件，在任務欄確認在右上角出現(xiàn)這只 小羊駝?? 圖標

?? 選擇模型

??‍?? 點擊Search models 搜索框，第一條就是 deepseek-r1 模型。

這里我們發(fā)現(xiàn)了多個不同大小的模型，文件大小適配不同的設備

DeepSeek R1提供多個版本，參數(shù)量越大，模型通常越強大，但也需要更多的計算資源。

比如1.5B代表有15億個參數(shù)。

?? 借助網(wǎng)上大佬們整理的表格供大家參考，來確認你的電腦可以運行哪個模型：

?? 運行模型

運行模型很簡單：確定模型后，復制這條指令到終端里

?? 當進度條跑滿時，恭喜??，你的電腦已經(jīng)擁有了頂級的推理能力

?? 使用 && 測試

?? 這里我已經(jīng)提前下好了，使用 ollama 提供的終端指令 ollama list 可以看我們電腦上已經(jīng)部署了哪些模型，然后使用 ollama run 對應的模型 就可以了

輸入 /bye即可退出

?? ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]
Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command
Flags:
  -h, --help      help for ollama
  -v, --version   Show version information
Use "ollama [command] --help" for more information about a command.

??‍?? 雖然這里終端已經(jīng)可以使用了，但是還是不太方便。

這里就有人要問博主了，你推薦的模型確實挺不錯的，但是還是太吃操作了，有沒有更加方便的使用方式呢？

有的兄弟有的，像更方便的使用方式那么就是 Chatbox

二：?? Chatbox

??‍?? 瀏覽器搜索 Chatbox 并下載客戶端或者網(wǎng)頁版都可以

設置語言為中文并保存

點擊設置選擇模型為 OLLAMA API

為了確?？梢赃B接到本地服務，大家按照提供的教程設置一下，不同的操作系統(tǒng)設置不太一樣，然后選擇 R1模型并保存 連接到本地服務教程跳轉

?? 現(xiàn)在你就可以在 瀏覽器/客戶端 上流暢的使用 R1 了。

?? 創(chuàng)建你的專屬 GPTs

??‍?? 點擊我的搭檔，創(chuàng)建搭檔，給ai角色設定人格，你也可以選擇現(xiàn)有的搭檔，一個資深的行業(yè)專家就出現(xiàn)了。

三：?? 共勉

?? 以上就是我對 DeepSeek R1本地化部署 Ollama + Chatbox 打造最強 AI 工具 的理解，覺得這篇博客對你有幫助的，可以點贊收藏關注支持一波~ 

到此這篇關于DeepSeek R1本地化部署 Ollama + Chatbox 打造最強 AI 工具的文章就介紹到這了,更多相關DeepSeek R1本地化部署 Ollama + Chatbox內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！

最新評論