在本地模型上運(yùn)行 OpenClaw 聽起來像是個業(yè)余項目，但當(dāng)你真正實踐一次后就會發(fā)現(xiàn)，很多“代理工作”實際上都是些粘合性任務(wù)，比如日志摘要、JSON 清理、消息路由、Cron 報告等等。所有這些都是你不想為每個令牌付費(fèi)的事情。

Ollama 是最便捷的實現(xiàn)方式。它是一個本地 LLM 運(yùn)行時環(huán)境，可以下載模型權(quán)重并通過 HTTP 提供服務(wù)。權(quán)重下載到磁盤后，即可完全離線運(yùn)行，并且您的提示信息不會離開您的網(wǎng)絡(luò)。

本指南重點(diǎn)介紹 OpenClaw + Ollama。我還會講解最常見的問題、API 模式的重要性、如何設(shè)置本地+云端混合流程，以及如何避免本地模型輸出過于冗長。

如果您已經(jīng)在 VPS 上托管了 OpenClaw，并且希望網(wǎng)關(guān)始終保持在線，那么您可能也希望在 VPS 上安全地托管 OpenClaw。關(guān)于模型選擇和提供商的權(quán)衡，OpenClaw 本身也存在模型選擇的問題：Claude 和 OpenAI，即使您的“提供商”變成了 Ollama，這個問題仍然適用。

OpenClaw 和 Ollama 概述

OpenClaw 可以通過兩種主要方式與 Ollama 通信：

• 使用/api/chat端口上的Native Ollama API11434
• 使用/v1端點(diǎn)實現(xiàn)聊天補(bǔ)全的OpenAI 兼容 API

Ollama 在docs.ollama.com/api/chat上提供了原生聊天接口的文檔。默認(rèn)的本地基本 URL 是 [此處應(yīng)http://localhost:11434填寫默認(rèn) URL]，他們的 API 介紹中也直接提到了這一點(diǎn)。如果你曾經(jīng)使用 curl 命令訪問過它，你就會知道這完全在意料之中，而這正是它的優(yōu)勢所在。

OpenClaw 的提供商文檔中也包含 Ollama 快速入門指南，以及一個容易讓人困惑的關(guān)鍵細(xì)節(jié)：即使 Ollama 本身并不驗證 API 密鑰值，OpenClaw 仍然要求該密鑰值存在。OpenClaw Ollama 提供商頁面明確指出“任何值都有效”，并附有相關(guān)說明OLLAMA_API_KEY="ollama-local"。您可以在這里閱讀：docs.openclaw.ai/providers/ollama。

為什么使用 Ollama 在本地運(yùn)行 OpenClaw

零代幣成本

如果將一半的客服呼叫路由到本地模型，您的賬單就會下降。具體百分比取決于您如何使用 OpenClaw，但規(guī)律是一致的：低成本的重復(fù)性操作占據(jù)了請求數(shù)量的絕大部分。

我喜歡這種略顯枯燥的框架：本地模型能讓你獲得可預(yù)測的成本。無論你當(dāng)天聊天量多還是定時任務(wù)激增，都無關(guān)緊要。

隱私和數(shù)據(jù)控制

這并非紙上談兵。2025 年，Harmonic Security 公布的數(shù)據(jù)顯示，敏感的企業(yè)數(shù)據(jù)經(jīng)常出現(xiàn)在 GenAI 工具的提示信息和上傳文件中。Axios 總結(jié)了他們的發(fā)現(xiàn)，并給出了包含敏感信息的提示信息和上傳文件的具體百分比。如果您的 OpenClaw 代理會接觸到內(nèi)部日志、發(fā)票、工單、客戶郵件、工資單導(dǎo)出文件或“糟糕，這是個私有 URL”之類的資料，那么本地模型確實能有效降低風(fēng)險。您可以點(diǎn)擊此處閱讀 Axios 的報道：員工正在向聊天機(jī)器人泄露秘密。

即使您信任云服務(wù)提供商，您仍然需要考慮策略方面的問題：數(shù)據(jù)保留、審計、法律取證和內(nèi)部控制。本地運(yùn)行可以縮小風(fēng)險范圍。

離線操作

權(quán)重下載完成后，即可離線運(yùn)行。這在實驗室、網(wǎng)絡(luò)中斷期間以及不應(yīng)與第三方 API 通信的機(jī)器上非常有用。

降低小任務(wù)的延遲

對于短時交互，本地GPU可以在一秒內(nèi)響應(yīng)第一個令牌。“無需網(wǎng)絡(luò)往返”的效果對于執(zhí)行大量小工具步驟的智能體尤為顯著。

本地化模式的優(yōu)勢和劣勢分別是什么？

讓我們先明確一下預(yù)期，因為人們常常會在這里感到惱火，并責(zé)怪 OpenClaw，而真正的限制是模型能力。

局部模型在以下方面表現(xiàn)強(qiáng)勁

• 執(zhí)行簡單操作的工具（運(yùn)行命令、讀取文件、解析輸出）
• 格式轉(zhuǎn)換、JSON提取和清理
• 日志、工單和聊天記錄的簡要摘要
• 路由和分類（這是緊急情況嗎？這是計費(fèi)嗎？這是濫用行為嗎？這是支持服務(wù)嗎？）
• 常用語言中的基本代碼生成

本地模型難以應(yīng)對

• 冗長的多步驟推理需要仔細(xì)規(guī)劃，并涉及多個工具調(diào)用
• 當(dāng)您需要長文本“完全按照此格式輸出，沒有任何偏差”時，可獲得高精度輸出。
• 如果顯存不足，就不要設(shè)置過大的上下文窗口。
• 某些多語言輸出質(zhì)量取決于模型和量化。

我的實用建議很簡單：采用混合部署模式。讓本地處理那些成本低廉的任務(wù)，而將那些需要深入思考和進(jìn)行長篇寫作的任務(wù)部署到云端。OpenClaw 支持按代理和按任務(wù)進(jìn)行路由，因此您不會被限制在單一服務(wù)提供商。

如果你想了解為什么上下文和內(nèi)存對智能體如此重要，OpenClaw 的內(nèi)存解釋與此相關(guān)。當(dāng)內(nèi)存變得龐大且混亂時，局部模型的性能會下降。

運(yùn)行 Ollama 的硬件要求

人們常問“我需要什么樣的GPU”，而誠實的回答是“這取決于你想運(yùn)行哪個模型以及你想要多長的上下文”。不過，還是有一些不錯的經(jīng)驗法則。

顯存比GPU原始速度更重要

• 8 GB 顯存足以滿足許多 7B 型號在有效量化下的需求。
• 16GB 到 24GB 的顯存容量，使得 14 位到 32 位型號的顯卡能夠流暢運(yùn)行。
• 48GB 顯存是運(yùn)行大型模型和構(gòu)建龐大場景時開始感覺逼真的臨界點(diǎn)。

Ollama 根據(jù) VRAM 層級對上下文長度默認(rèn)值提出了自己的建議。他們的上下文長度頁面列出了默認(rèn)行為，并明確指出代理任務(wù)至少需要 64k 個令牌才能發(fā)揮最佳性能。請在此處閱讀：docs.ollama.com/context-length。

內(nèi)存和存儲

RAM之所以重要，是因為權(quán)重會被映射到內(nèi)存中，而且長時間的上下文操作會占用大量的CPU和內(nèi)存。存儲也必不可少。模型文件通常很大，除非你喜歡緩慢的冷啟動，否則最好選擇SSD固態(tài)硬盤。

一項有助于內(nèi)存使用的設(shè)置

Ollama 文檔中提供了 Flash Attention 功能以及啟用該功能的具體環(huán)境變量：OLLAMA_FLASH_ATTENTION=1。隨著上下文的增長，它可以減少內(nèi)存使用量。Ollama 常見問題解答中也提到了這一點(diǎn)：docs.ollama.com/faq。

步驟 1：安裝 Ollama

macOS

brew install ollama
ollama serve &

Linux（Debian 或 Ubuntu）

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl enable --now ollama

Ollama 默認(rèn)在本地端口提供服務(wù)11434。他們的 API 介紹中列出了默認(rèn)的基本 URL，方便用戶進(jìn)行驗證。請參閱docs.ollama.com/api/introduction。

快速驗證

curl http://localhost:11434/api/tags

如果返回 JSON 數(shù)據(jù)，則表示服務(wù)器正在運(yùn)行。如果返回空列表，則表示您尚未拉取任何模型。

步驟 2：使用 Ollama 下載模型

模型選擇是個人偏好，也帶有一定的政治因素。你會看到數(shù)不勝數(shù)的“最佳模型”列表。我不會這樣做。我提供的是一組模型，它們通常能很好地配合工具調(diào)用和代理提示。

本地使用的良好起點(diǎn)

• llama3.3通用版
• qwen2.5-coder:32b適用于代碼密集型工作流程
• gpt-oss:20b是一個不錯的中間方案，適合代理程序使用。
• 如果您特別想要本地推理風(fēng)格模型，請使用deepseek-r1:32b。

OpenClaw 的 Ollama 提供商文檔使用了其中幾個 ID 作為示例。這很有用，因為它能幫助你了解其配置要求。請參閱docs.openclaw.ai/providers/ollama。

示例

ollama pull gpt-oss:20b
ollama pull llama3.3
ollama pull qwen2.5-coder:32b

煙霧測試

ollama run llama3.3 "Why does the sky look blue?"

如果這樣可以解決問題，那么 Ollama 就沒問題，任何 OpenClaw 問題都可能是配置、API 模式或工具權(quán)限方面的問題。

步驟 3：將 OpenClaw 連接到 Ollama

你有三種可行的配置方案。選擇其中一種?；煊弥粫屇阆萑肱渲美Ь?。

方法A：使用Ollama啟動器啟動OpenClaw

Ollama 提供了一個 OpenClaw 集成頁面，其中直接記錄了啟動器命令。它還列出了啟動器的功能：如果需要，通過 npm 安裝 OpenClaw，顯示安全提示，選擇模型，然后配置并啟動網(wǎng)關(guān)。所有這些內(nèi)容都可以在他們的 OpenClaw 集成頁面上找到：docs.ollama.com/integrations/openclaw。

ollama launch openclaw

僅進(jìn)行配置，不啟動服務(wù)：

ollama launch openclaw --config

如果你喜歡“一鍵搞定”，那么這就是你想要的。

方法 B：使用 OLLAMA_API_KEY 進(jìn)行 OpenClaw 自動發(fā)現(xiàn)

OpenClaw 的提供程序文檔展示了最簡單的啟用模式：設(shè)置一個環(huán)境變量，OpenClaw 即可將其用作提供程序鍵值。該變量無需真實存在，只需存在即可。

export OLLAMA_API_KEY="ollama-local"

如果您更喜歡使用配置文件而不是環(huán)境變量：

openclaw config set models.providers.ollama.apiKey "ollama-local"

然后將默認(rèn)代理模型設(shè)置為 Ollama 模型 ID：

agents: {
  defaults: {
    model: { primary: "ollama/gpt-oss:20b" }
  }
}

這條路徑很好，因為添加模型就ollama pull這么簡單openclaw models list。

方法 C：顯式提供程序配置以實現(xiàn)完全控制

如果 Ollama 運(yùn)行在其他主機(jī)上，或者您需要自定義上下文設(shè)置，或者您想要定義不明確宣傳工具支持的模型，請使用此功能。

models: {
  providers: {
    ollama: {
      baseUrl: "http://127.0.0.1:11434",
      apiKey: "ollama-local",
      api: "ollama",
      models: [
        {
          id: "gpt-oss:20b",
          name: "GPT-OSS 20B",
          reasoning: false,
          input: ["text"],
          cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
          contextWindow: 8192,
          maxTokens: 81920
        }
      ]
    }
  }
}

然后設(shè)置默認(rèn)值和備用方案：

agents: {
  defaults: {
    model: {
      primary: "ollama/gpt-oss:20b",
      fallbacks: ["ollama/llama3.3", "ollama/qwen2.5-coder:32b"]
    }
  }
}

注意：如果您定義了顯式的提供程序條目，就會失去一些“自動發(fā)現(xiàn)模型”的便利性。這沒關(guān)系。只需特意去做即可。

API模式選擇及最常見的故障

這個問題值得單獨(dú)成章，因為它是大多數(shù)“程序運(yùn)行但回復(fù)為空”錯誤發(fā)生的原因。

原生模式

原生模式使用 Ollama 的/api/chatAPI。Ollama 文檔中提供了該接口的文檔，并且它支持流式響應(yīng)。請參閱docs.ollama.com/api/chat。

在 OpenClaw 配置中，這通常是：

api: "ollama"
baseUrl: "http://127.0.0.1:11434"

OpenAI兼容模式

Ollama 也支持 OpenAI 兼容性/v1。他們的 OpenAI 兼容性頁面記錄了支持的端點(diǎn)和請求字段。請參閱docs.ollama.com/api/openai-compatibility。

在 OpenClaw 中，這通常意味著：

api: "openai-completions"
baseUrl: "http://127.0.0.1:11434/v1"

需要注意一點(diǎn)：Ollama 的 OpenAI 兼容性包含一個 Responses API 實現(xiàn)。OpenClaw 有自己的“openai-responses”模式，專門用于 OpenAI 更新的 Responses API。人們常常將兩者混淆，導(dǎo)致出現(xiàn)奇怪的行為。如果您在 Ollama 中使用 OpenAI 兼容模式，請在構(gòu)建任何功能之前，先通過簡單的聊天和工具調(diào)用進(jìn)行測試。

如果收到空回復(fù)或解析錯誤，請先切換回原生模式。原生模式是 Ollama 的最佳選擇，也是其文檔中推薦的首選模式。

本地模型工具權(quán)限

本地模型往往對工具和權(quán)限的使用更加字面化。如果 OpenClaw 的工具訪問權(quán)限被限制，那么模型就會一直空談它想做什么，而不是真正去做。

OpenClaw 網(wǎng)關(guān)安全文檔解釋了工具執(zhí)行和沙箱的工作原理以及審批的重要性。請在此處閱讀官方文檔：docs.openclaw.ai/gateway/security。

一個實際的配置示例如下所示：

tools: {
  profile: "coding",
  allow: ["read", "exec", "write", "edit"],
  exec: {
    host: "gateway",
    ask: "off",
    security: "full"
  }
}

這種配置是有代價的。它比較寬松，假設(shè)機(jī)器專用于 OpenClaw，并且您可以控制對網(wǎng)關(guān)和消息通道的訪問。如果您的實際情況并非如此，則需要收緊權(quán)限。

如果您需要更詳細(xì)的安全加固檢查清單，請使用OpenClaw 安全最佳實踐。

Ollama 和 OpenClaw 的上下文長度設(shè)置

智能體需要上下文信息。系統(tǒng)提示、技能、記憶、聊天記錄和工具輸出都集中在同一個窗口中。如果上下文信息太少，智能體就會變得健忘且行為怪異。

Ollama 的內(nèi)容頁面提供了兩條有用的指導(dǎo)：

• 它默認(rèn)的上下文長度基于顯存大小
• 代理任務(wù)至少需要 64k 個代幣。

您可以在啟動 Ollama 之前通過環(huán)境變量設(shè)置服務(wù)器端上下文長度。確切的變量名稱已在 Ollama 的上下文長度文檔中記錄。請參閱docs.ollama.com/context-length。

systemd 環(huán)境示例：

OLLAMA_CONTEXT_LENGTH=16384
OLLAMA_FLASH_ATTENTION=1

不要盲目地將上下文大小調(diào)得過大。這樣做會導(dǎo)致顯存占用增加，性能下降。如果想要“快速的日常操作”，建議為這些代理設(shè)置較小的上下文，而只為深度分析代理設(shè)置較大的上下文。

混合本地加云模型路由

這正是 OpenClaw 的真正價值所在，它不僅僅是一個“本地聊天界面”。你可以運(yùn)行本地模型進(jìn)行低成本操作，同時仍然可以保留一個云端模型來處理復(fù)雜的運(yùn)算。

每個代理的覆蓋

agents: {
  defaults: {
    model: { primary: "ollama/gpt-oss:20b" }
  },
  overrides: {
    "deep-analysis": {
      model: { primary: "anthropic/claude-sonnet-4-20250514" }
    }
  }
}

帶有云逃生艙的備用鏈

agents: {
  defaults: {
    model: {
      primary: "ollama/llama3.3",
      fallbacks: ["ollama/qwen2.5-coder:32b", "anthropic/claude-sonnet-4-20250514"]
    }
  }
}

我喜歡備用方案的原因：您可以保持日常服務(wù)的免費(fèi)，同時在本地模型遇到瓶頸時避免全面中斷。

如果您已經(jīng)在使用代理層來管理服務(wù)提供者，那么OpenClaw API 代理的設(shè)置值得一讀。代理可以在您需要在 Ollama 等本地后端和 OpenAI 兼容的后端之間切換時，規(guī)范化端點(diǎn)。

減少本地模型的冗長程度

本地模型通常會過度解釋，而且喜歡輸出 JSON 數(shù)據(jù)。你可以通過兩個地方來解決這個問題：SOUL.md 文件和模型系統(tǒng)提示符。

SOUL.md 簡潔規(guī)則

## Brevity rules
Be concise.
Do not dump skill documentation.
Do not print raw JSON responses.
Do not explain what you will do in detail.
When a task succeeds, confirm in one short sentence.

這不會讓每個模型都突然變得簡潔，但它的幫助比人們預(yù)期的要大。

用于工具行為的自定義模型文件

有些模型會描述工具而不是使用它們，或者每次操作都需要請求權(quán)限。自定義 Ollama 模型文件允許您直接使用工具。

Ollama 支持從模型文件 (Modelfile) 創(chuàng)建模型，其文檔涵蓋了此工作流程。如果您之前未使用過，請從其主文檔中心開始，搜索“模型文件”。參見docs.ollama.com。

模型文件模板示例：

FROM qwen2.5-coder:32b
SYSTEM """You are a helpful assistant with access to tools.
Tool behavior:
- Use available tools when needed without asking for permission
- Do not describe the tool call in advance
- Summarize results instead of outputting raw JSON
- If required input is missing ask a direct question
Keep answers short unless the user asks for deep detail."""

然后建造它：

ollama create qwen-agentic -f qwen-agentic.Modelfile

重要提示：除非您清楚自己在做什么，否則請勿覆蓋模型的工具調(diào)用模板。否則，您可能會破壞工具格式，導(dǎo)致出現(xiàn)“OpenClaw 已損壞”的提示，而實際上這只是您自定義的提示。

在另一臺機(jī)器上運(yùn)行 Ollama

您不必將 Ollama 和 OpenClaw 運(yùn)行在同一臺機(jī)器上。常見的做法是：

• OpenClaw 網(wǎng)關(guān)運(yùn)行在一臺小型、始終在線的服務(wù)器上。
• Ollama 運(yùn)行在 LAN GPU 盒子上

配置中這實際上就是交換 baseUrl：

models: {
  providers: {
    ollama: {
      baseUrl: "http://192.168.1.50:11434",
      apiKey: "ollama-local",
      api: "ollama"
    }
  }
}

如果這樣做，請務(wù)必將局域網(wǎng)視為敵對環(huán)境。如果有人能夠訪問您的 Ollama 端點(diǎn)，他們就可以向其發(fā)送提示信息。添加網(wǎng)絡(luò)控制措施，并考慮在數(shù)據(jù)跨越不受信任的網(wǎng)絡(luò)時終止 TLS 連接。

Ollama 和 OpenClaw 的 Docker Compose 示例

這是一個極簡的草圖，可以根據(jù)需要進(jìn)行調(diào)整。重點(diǎn)不在于“這是唯一正確的合成文件”，而在于“這些是你最終實際需要設(shè)置的參數(shù)”。

services:
  ollama:
    image: ollama/ollama
    environment:
      - OLLAMA_CONTEXT_LENGTH=16384
      - OLLAMA_FLASH_ATTENTION=1
    volumes:
      - ollama-data:/root/.ollama
    ports:
      - "11434:11434"
  openclaw:
    image: openclaw/gateway
    environment:
      - OLLAMA_API_KEY=ollama-local
    depends_on:
      - ollama

如果你要使用 GPU 直通，你需要根據(jù)主機(jī)配置添加運(yùn)行時和設(shè)備映射。這部分配置在不同設(shè)置之間差異很大，所以不可能存在一個通用的代碼片段。

常見故障排除

OpenClaw 可以連接到 Ollama，但響應(yīng)為空。

首先檢查 API 模式。如果您使用的是 OpenAI 兼容模式，請暫時切換到原生模式api: "ollama"，并將 baseUrl 指向指定地址http://host:11434。確認(rèn)基本聊天功能正常。然后確認(rèn)工具調(diào)用是否有效。

未檢測到美洲駝

確認(rèn) Ollama 正在運(yùn)行，然后確認(rèn) OpenClaw 是否識別到提供程序密鑰值。OpenClaw Ollama 提供程序文檔中顯示了環(huán)境變量和配置命令。請參閱docs.openclaw.ai/providers/ollama。

OpenClaw 中沒有可用的模型

跑步：

ollama list
openclaw models list

如果模型存在于 Ollama 中但未出現(xiàn)在 OpenClaw 中，則需要使用顯式提供程序配置并手動定義模型列表。這很麻煩，但可以解決問題。

工具調(diào)用失敗或模型僅“談?wù)摴ぞ?rdquo;。

檢查工具權(quán)限，并考慮調(diào)整模型文件提示。同時確認(rèn)您已安裝所需的技能。如果您不清楚技能的安裝和啟用方式，OpenClaw 技能指南是很好的參考資料。

即使已取消請求，網(wǎng)關(guān)仍會持續(xù)請求批準(zhǔn)。

這可能是由于安全策略和會話狀態(tài)引起的。如果在會話過程中出現(xiàn)此問題，重啟網(wǎng)關(guān)通常可以解決。如果您想了解安全模型及其優(yōu)缺點(diǎn)，請閱讀docs.openclaw.ai/gateway/security并將其與您當(dāng)前的配置進(jìn)行比較。

核查清單

如果你想要一個干凈利落的“成功”時刻，請按以下步驟操作：

# 1) Ollama running
curl http://localhost:11434/api/tags
# 2) Pull a model
ollama pull llama3.3
# 3) OpenClaw can see models
openclaw models list
# 4) Start gateway
openclaw gateway start

然后在你的 OpenClaw 聊天或 TUI 中詢問：

• “現(xiàn)在幾點(diǎn)？”（應(yīng)根據(jù)您的工具設(shè)置運(yùn)行時間查找或命令）
• “列出當(dāng)前目錄中的文件”（如果允許，應(yīng)使用 exec 命令）
• “匯總此 JSON”，然后粘貼一個簡短的 JSON 對象

如果這些方法有效，你就可以正常運(yùn)營了。

您還可以將其他本地后端與 OpenClaw 一起使用。

Ollama 并非唯一選擇。如果您需要高吞吐量，或者您正在以服務(wù)形式運(yùn)行 GPU 服務(wù)器，您可以考慮以下方案：

• 用于高通量 OpenAI 兼容服務(wù)的vLLM
• llama.cpp用于最小化依賴項和小型部署
• LM Studio是一款以 GUI 為先的本地設(shè)置軟件，同時還提供一個/v1端點(diǎn)。

OpenClaw 可以使用其“openai-completions”提供程序模式連接到與 OpenAI 兼容的后端。我們自己的免費(fèi)模型設(shè)置概述中也提到了這一點(diǎn)，并包含示例模式：OpenClaw 的免費(fèi) AI 模型。

到此這篇關(guān)于使用Ollama 在本地免費(fèi)運(yùn)行OpenClaw的詳細(xì)步驟的文章就介紹到這了,更多相關(guān)Ollama本地運(yùn)行OpenClaw內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持腳本之家！

最新評論