1. 概述

本手冊介紹如何在 OpenClaw 中配置本地 Ollama 服務(wù)。Ollama 是一個(gè)開源的本地大語言模型運(yùn)行框架，支持在本地機(jī)器上運(yùn)行多種開源模型，如 Llama、DeepSeek、Qwen 等。

適用范圍：

• 希望在本地運(yùn)行 AI 模型的用戶
• 需要離線使用 OpenClaw 的用戶
• 關(guān)注數(shù)據(jù)隱私的用戶
• 想要降低 API 調(diào)用成本的用戶

Ollama 的優(yōu)勢：

• 本地運(yùn)行：數(shù)據(jù)不離開本地機(jī)器，保護(hù)隱私
• 離線可用：無需網(wǎng)絡(luò)連接即可使用
• 開源免費(fèi)：無需支付 API 費(fèi)用
• 模型豐富：支持多種開源大語言模型

2. 環(huán)境準(zhǔn)備

2.1 安裝 Ollama

macOS

# 使用 Homebrew 安裝
$ brew install ollama
# 或使用官方安裝腳本
$ curl -fsSL https://ollama.com/install.sh | sh

Linux

$ curl -fsSL https://ollama.com/install.sh | sh

使用 curl 命令下載 Ollama 安裝腳本

上面是我的測試環(huán)境配置

安裝完成后，Ollama 服務(wù)會(huì)自動(dòng)啟動(dòng)。

驗(yàn)證安裝：

$ ollama --version
ollama version 0.19.0

查看 Ollama 版本和命令幫助

2.2 拉取模型

安裝完成后，需要拉取想要使用的模型。根據(jù)您的硬件配置選擇合適的模型：

提示： 模型大小影響顯存/內(nèi)存占用，請根據(jù)機(jī)器配置選擇：

• 8GB 內(nèi)存：推薦使用 7B 參數(shù)模型
• 16GB 內(nèi)存：可以使用 13B 參數(shù)模型
• 32GB+ 內(nèi)存：可以使用更大模型或同時(shí)運(yùn)行多個(gè)模型

以下是推薦的模型（以 qwen2.5:7b 為例）：

# 通義千問 2.5 - 阿里開源模型，中文優(yōu)化好
$ ollama pull qwen2.5:7b

# 其他可選模型：
# DeepSeek Coder - 適合編程任務(wù)
$ ollama pull deepseek-coder:6.7b

# CodeLlama - Meta 的開源代碼模型
$ ollama pull codellama:7b

# Llama 3 - Meta 的通用大模型
$ ollama pull llama3:8b

查看已安裝的模型：

$ ollama list
NAME                    ID              SIZE      MODIFIED
qwen2.5:7b              845dbda0ea48    4.7 GB    28 seconds ago

Ollama 安裝成功，服務(wù)運(yùn)行在 127.0.0.1:11434

2.3 驗(yàn)證 Ollama 服務(wù)

啟動(dòng) Ollama 服務(wù)（macOS/Windows 通常自動(dòng)啟動(dòng)）：

$ ollama serve

測試 API 是否正常工作：

$ curl http://localhost:11434/api/generate -d '{
  "model": "qwen2.5:7b",
  "prompt": "Hello, how are you?"
}'

如果能正常返回響應(yīng)，說明 Ollama 服務(wù)運(yùn)行正常。

2.4 安裝 OpenClaw

使用 npm 全局安裝 OpenClaw：

# 替換國內(nèi)的npm源
$ npm config set registry https://registry.npmmirror.com/
# 安裝 OpenClaw
$ npm install -g openclaw

驗(yàn)證安裝：

$ openclaw --version

3. Ollama API 說明

3.1 Ollama 簡介

Ollama 是一個(gè)本地大語言模型運(yùn)行框架，特點(diǎn)：

• OpenAI 兼容 API：提供與 OpenAI 兼容的 REST API
• 模型管理：簡單的命令行工具管理模型
• 跨平臺(tái)：支持 macOS、Linux、Windows
• Modelfile：支持自定義模型參數(shù)和系統(tǒng)提示詞

3.2 API 端點(diǎn)說明

Ollama 默認(rèn)監(jiān)聽 http://localhost:11434，提供以下 API：

OpenAI 兼容端點(diǎn)：

3.3 支持的模型

以下是 Ollama 支持的部分編程相關(guān)模型：

4. 啟動(dòng)服務(wù)

4.1 運(yùn)行 onboard 命令

完成 Ollama 安裝和模型拉取后，啟動(dòng) OpenClaw 服務(wù)：

$ openclaw onboard

4.2 向?qū)渲貌襟E

步驟 1：安全提示和配置確認(rèn)

首先確認(rèn) "I understand this is personal-by-default and shared/multi-user use requires lock-down. Continue?" 選擇 Yes

選擇 Setup mode: QuickStart

系統(tǒng)會(huì)檢測現(xiàn)有配置，顯示如下信息：

  Existing config detected
  workspace: ~/.openclaw/workspace
  model: ollama/qwen2.5:7b
  gateway.mode: local
  gateway.port: 18789
  gateway.bind: loopback

步驟 2：選擇模型提供方，配置 Ollama 連接

在 Model/auth provider 列表中，選擇 Ollama。

配置以下選項(xiàng)：

• Model/auth provider: Ollama
• Ollama base URL: http://127.0.0.1:11434（默認(rèn)本地地址）
• Ollama mode: 選擇 Local (Local models only)
• Default model: 選擇已下載的模型，如 ollama/qwen2.5:7b (ctx 32k)

步驟 3：配置搜索提供方（可選）

選擇搜索提供方，如 DuckDuckGo Search (experimental)（無需 API Key）。

步驟 4：完成配置并重啟

配置完成后，選擇 Restart 重啟服務(wù)。

4.3 驗(yàn)證服務(wù)啟動(dòng)

服務(wù)啟動(dòng)成功后，終端會(huì)顯示類似以下信息：

OpenClaw Gateway running on http://127.0.0.1:18789
WebUI: http://127.0.0.1:18789/?token=YOUR_TOKEN

5. 訪問 WebUI

服務(wù)啟動(dòng)后，可在瀏覽器中訪問：

http://127.0.0.1:18789/?token=YOUR_TOKEN

或使用 localhost：

http://localhost:18789/?token=YOUR_TOKEN

WebUI 界面會(huì)顯示當(dāng)前使用的模型：Default (qwen2.5:7b - ollama)，表示已成功連接到本地 Ollama 服務(wù)。

注意： Token 在配置文件的 gateway.auth.token 字段中查看。

6. 常見問題

Q1: Ollama 服務(wù)無法啟動(dòng)？

檢查端口占用：

$ lsof -i :11434

查看 Ollama 日志：

$ ollama serve 2>&1

檢查環(huán)境變量：

# 如需修改監(jiān)聽地址
$ export OLLAMA_HOST=0.0.0.0:11434

Q2: 模型下載很慢？

可以配置鏡像源加速下載：

# 設(shè)置環(huán)境變量使用鏡像
$ export OLLAMA_MODELS=/path/to/models

或使用代理：

$ export HTTPS_PROXY=http://your-proxy:port
$ ollama pull qwen2.5:7b

Q3: 顯存/內(nèi)存不足？

減小模型大小：

• 使用量化版本（如 :q4_0 后綴）
• 選擇更小的模型（如 7B 替代 13B）

配置 Ollama 使用 CPU：

$ export OLLAMA_NO_GPU=1
$ ollama serve

Q4: OpenClaw 無法連接到 Ollama？

檢查 Ollama 服務(wù)狀態(tài)：

$ curl http://127.0.0.1:11434/api/tags

檢查配置文件中的 baseUrl：

• 確保 baseUrl 正確設(shè)置為 http://127.0.0.1:11434/v1
• 如果 Ollama 在遠(yuǎn)程服務(wù)器，使用對(duì)應(yīng) IP 地址

防火墻問題：

• 確保防火墻允許 11434 端口訪問
• 檢查 SELinux/AppArmor 設(shè)置

Q5: Token 忘記了怎么辦？

查看配置文件：

$ cat .openclaw/openclaw.json | grep token

Q6: 如何更新模型？

# 重新拉取最新版本
$ ollama pull qwen2.5:7b

Q7: 如何刪除模型？

$ ollama rm qwen2.5:7b

以上就是OpenClaw接入本地Ollama的全流程步驟的詳細(xì)內(nèi)容，更多關(guān)于OpenClaw接入本地Ollama的資料請關(guān)注腳本之家其它相關(guān)文章！

最新評(píng)論