Ollama 提供了多種命令行工具（CLI）供用戶與本地運(yùn)行的模型進(jìn)行交互。

基本格式：

ollama <command> [args]

我們可以用 ollama --help 查看包含有哪些命令：

Large language model runner
Usage:
  ollama [flags]
  ollama [command]
Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command
Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

1、使用方法

ollama [flags]：使用標(biāo)志（flags）運(yùn)行 ollama。

ollama [command]：運(yùn)行 ollama 的某個(gè)具體命令。

2、可用命令

serve：?jiǎn)?dòng) ollama 服務(wù)。

create：根據(jù)一個(gè) Modelfile 創(chuàng)建一個(gè)模型。

show：顯示某個(gè)模型的詳細(xì)信息。

run：運(yùn)行一個(gè)模型。

stop：停止一個(gè)正在運(yùn)行的模型。

pull：從一個(gè)模型倉庫（registry）拉取一個(gè)模型。

push：將一個(gè)模型推送到一個(gè)模型倉庫。

list：列出所有模型。

ps：列出所有正在運(yùn)行的模型。

cp：復(fù)制一個(gè)模型。

rm：刪除一個(gè)模型。

help：獲取關(guān)于任何命令的幫助信息。

3、標(biāo)志（Flags）

• -h, --help：顯示 ollama 的幫助信息。
• -v, --version：顯示版本信息。

完整示例：

1. 拉取與刪除模型

pull拉取遠(yuǎn)端模型到本地。

ollama pull <model>

rm / remove刪除本地模型。

ollama rm <model>

list / ls列出所有本地模型。

ollama list

2. 運(yùn)行模型

run交互模式運(yùn)行模型，不退出。

ollama run <model>

可帶系統(tǒng)信息與 prompt：

ollama run <model> -s "<system>" -p "<prompt>"

run + script從文件讀取 prompt：

ollama run <model> < input.txt

當(dāng)你輸入 ollama run 進(jìn)入聊天界面后，你不再是在操作命令行，而是在和 AI 對(duì)話。這時(shí)你可以使用以 / 開頭的快捷指令來控制對(duì)話：

• /bye 或 /exit：最重要！ 退出聊天界面，返回命令行。
• /clear：清空當(dāng)前的上下文記憶（開啟一段新的對(duì)話）。
• /show info：查看當(dāng)前模型的詳細(xì)參數(shù)信息。
• /set parameter seed 123：設(shè)置隨機(jī)種子（高級(jí)玩法，用于復(fù)現(xiàn)結(jié)果）。
• /help：在聊天中查看所有可用的快捷鍵。

3. 推理接口（一次性執(zhí)行）

generate執(zhí)行單次推理，輸出文本。

ollama generate <model> -p "<prompt>"

4. 創(chuàng)建與修改模型

create用 Modelfile 創(chuàng)建本地模型。

ollama create <model-name> -f Modelfile

cp復(fù)制一個(gè)模型為新名字。

ollama cp <src> <dst>

5. 服務(wù)器相關(guān)

serve啟動(dòng) Ollama 本地服務(wù)（默認(rèn) 11434）。

ollama serve

run serverless當(dāng) ollama run 時(shí)會(huì)自動(dòng)拉起后臺(tái)服務(wù)，不需單獨(dú)執(zhí)行。

6. 模型信息

show查看模型元數(shù)據(jù)、參數(shù)、模板。

ollama show <model>

7. 專用參數(shù)

這些參數(shù)多數(shù)可用于 run/generate：

--num-predict <number>    限制輸出 token 數(shù)
--temperature <float>     控制隨機(jī)性
--top-k <int>             采樣范圍
--top-p <float>           核采樣
--seed <int>              固定隨機(jī)性
--format json             輸出 JSON
--keepalive <seconds>     會(huì)話保持時(shí)間

8. Modelfile 指令

構(gòu)建模型時(shí)使用：

• FROM <model>：基礎(chǔ)模型
• SYSTEM "xxx"：設(shè)定系統(tǒng)提示
• PARAMETER key=value：設(shè)定默認(rèn)參數(shù)
• TEMPLATE "xxx"：自定義 Chat 模板
• LICENSE "xxx"：設(shè)置 License
• ADAPTER <file> / WEIGHTS <file>：加載 LoRA 或額外權(quán)重

9. API（當(dāng) serve 運(yùn)行時(shí)）

REST 端點(diǎn)（默認(rèn) http://localhost:11434/api）：

• /api/generate：文本生成
• /api/chat：對(duì)話流式接口
• /api/pull：遠(yuǎn)程拉取
• /api/tags：本地模型列表

調(diào)用示例（curl）：

curl http://localhost:11434/api/generate \
  -d '{"model":"qwen2.5","prompt":"hello"}'

10. 進(jìn)階

自定義參數(shù)運(yùn)行：

ollama run <model> --temperature 0.2 --top-p 0.9

持久會(huì)話（保留上下文）：會(huì)話由模型內(nèi)部緩存自動(dòng)管理，無需額外命令。

最新評(píng)論