Ollama 是一個本地 LLM 運行時，可以輕松在你的機器上運行開源模型。OpenClaw 通過 Ollama 的 OpenAI 兼容 API 進行集成，并且當你通過 OLLAMA_API_KEY（或認證配置）啟用且未定義顯式的 models.providers.ollama 條目時，可以自動發(fā)現(xiàn)支持工具調用的模型。

快速開始

1. 安裝 Ollama：https://ollama.ai
2. 拉取模型：

ollama pull llama3.3
# 或
ollama pull qwen2.5-coder:32b
# 或
ollama pull deepseek-r1:32b

• 為 OpenClaw 啟用 Ollama（任意值即可；Ollama 不需要真實密鑰）：

# 設置環(huán)境變量
export OLLAMA_API_KEY="ollama-local"
# 或在配置文件中設置
openclaw config set models.providers.ollama.apiKey "ollama-local"

• 使用 Ollama 模型：

{
  agents: {
    defaults: {
      model: { primary: "ollama/llama3.3" },
    },
  },
}

模型發(fā)現(xiàn)（隱式提供商）

當你設置了 OLLAMA_API_KEY（或認證配置）且未定義 models.providers.ollama 時，OpenClaw 會從本地 Ollama 實例 http://127.0.0.1:11434 發(fā)現(xiàn)模型：

• 查詢 /api/tags 和 /api/show
• 僅保留報告了 tools 能力的模型
• 當模型報告 thinking 時標記為 reasoning
• 在可用時從 model_info["<arch>.context_length"] 讀取 contextWindow
• 將 maxTokens 設置為上下文窗口的 10 倍
• 所有費用設置為 0

這樣無需手動配置模型條目，同時保持目錄與 Ollama 的能力對齊。查看可用模型：

ollama list
openclaw models list

要添加新模型，只需通過 Ollama 拉取：

ollama pull mistral

新模型將被自動發(fā)現(xiàn)并可供使用。如果你顯式設置了 models.providers.ollama，自動發(fā)現(xiàn)將被跳過，你必須手動定義模型（見下文）。

配置

基本設置（隱式發(fā)現(xiàn)）

啟用 Ollama 最簡單的方式是通過環(huán)境變量：

export OLLAMA_API_KEY="ollama-local"

顯式設置（手動模型）

在以下情況使用顯式配置：

• Ollama 運行在其他主機/端口上。
• 你想強制指定上下文窗口或模型列表。
• 你想包含未報告工具支持的模型。

{
  models: {
    providers: {
      ollama: {
        // 使用包含 /v1 的主機地址以兼容 OpenAI API
        baseUrl: "http://ollama-host:11434/v1",
        apiKey: "ollama-local",
        api: "openai-completions",
        models: [
          {
            id: "llama3.3",
            name: "Llama 3.3",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 8192,
            maxTokens: 8192 * 10
          }
        ]
      }
    }
  }
}

如果設置了 OLLAMA_API_KEY，你可以在提供商條目中省略 apiKey，OpenClaw 會自動填充以進行可用性檢查。

自定義基礎 URL（顯式配置）

如果 Ollama 運行在不同的主機或端口上（顯式配置會禁用自動發(fā)現(xiàn)，因此需要手動定義模型）：

{
  models: {
    providers: {
      ollama: {
        apiKey: "ollama-local",
        baseUrl: "http://ollama-host:11434/v1",
      },
    },
  },
}

模型選擇

配置完成后，所有 Ollama 模型即可使用：

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3.3",
        fallbacks: ["ollama/qwen2.5-coder:32b"],
      },
    },
  },
}

高級用法

推理模型

當 Ollama 在 /api/show 中報告 thinking 時，OpenClaw 會將模型標記為具有推理能力：

ollama pull deepseek-r1:32b

模型費用

Ollama 免費且在本地運行，因此所有模型費用均設置為 $0。

上下文窗口

對于自動發(fā)現(xiàn)的模型，OpenClaw 會使用 Ollama 報告的上下文窗口（如果可用），否則默認為 8192。你可以在顯式提供商配置中覆蓋 contextWindow 和 maxTokens。

故障排除

Ollama 未被檢測到

確保 Ollama 正在運行，且你已設置 OLLAMA_API_KEY（或認證配置），并且未定義顯式的 models.providers.ollama 條目：

ollama serve

同時確認 API 可訪問：

curl http://localhost:11434/api/tags

沒有可用模型

OpenClaw 僅自動發(fā)現(xiàn)報告了工具支持的模型。如果你的模型未列出，可以：

• 拉取一個支持工具調用的模型，或
• 在 models.providers.ollama 中顯式定義該模型。

添加模型：

ollama list  # 查看已安裝的模型
ollama pull llama3.3  # 拉取模型

連接被拒絕

檢查 Ollama 是否在正確的端口上運行：

# 檢查 Ollama 是否在運行
ps aux | grep ollama
# 或重啟 Ollama
ollama serve

另請參閱

• 模型提供商 - 所有提供商概覽
• 模型選擇 - 如何選擇模型
• 配置 - 完整配置參考

Ollama - OpenClaw

到此這篇關于OpenClaw使用Ollama本地模型(支持工具調用))的文章就介紹到這了,更多相關OpenClaw使用Ollama本地模型內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持腳本之家！

最新評論