Ollama常用命令介紹

發(fā)布時間：2026-03-08 00:33:31 作者：佚名

文章介紹了Ollama模型管理工具的各項命令,包括模型的拉取、運行、列出、查看、刪除等操作,同時,還涉及服務(wù)管理、配置環(huán)境變量、高級模型操作、API使用、批量操作等,文章詳細解釋了每個命令的用法和應(yīng)用場景,幫助用戶更好地理解和使用Ollama工具

基礎(chǔ)命令

模型管理

# 拉取模型
ollama pull <模型名>
ollama pull llama2           # 拉取 Llama 2
ollama pull qwen:7b          # 拉取通義千問 7B
ollama pull qwen2.5:7b       # 拉取 Qwen2.5 7B
ollama pull deepseek-r1:7b   # 拉取 DeepSeek-R1
# 運行模型
ollama run <模型名>
ollama run llama2            # 運行模型并進入交互模式
# 列出已安裝模型
ollama list
# 查看模型詳情
ollama show <模型名>
# 刪除模型
ollama rm <模型名>

模型創(chuàng)建與自定義

# 從 Modelfile 創(chuàng)建模型
ollama create <新模型名> -f ./Modelfile
# 復(fù)制模型
ollama cp <源模型> <目標(biāo)模型>

服務(wù)管理

啟動服務(wù)

# 前臺啟動服務(wù)
ollama serve
# 后臺啟動（Linux/macOS）
ollama serve &
# 作為系統(tǒng)服務(wù)（Linux）
sudo systemctl start ollama
sudo systemctl stop ollama
sudo systemctl restart ollama
sudo systemctl status ollama

服務(wù)配置

# 設(shè)置環(huán)境變量
export OLLAMA_HOST=0.0.0.0:11434    # 監(jiān)聽所有網(wǎng)絡(luò)接口
export OLLAMA_MODELS=/path/to/models # 自定義模型存儲路徑
export OLLAMA_KEEP_ALIVE=5m          # 模型在內(nèi)存中的保持時間

高級命令

模型操作

# 停止運行中的模型
ollama stop <模型名>
# 推送到倉庫
ollama push <用戶名>/<模型名>:<標(biāo)簽>
# 從 Modelfile 構(gòu)建
ollama create example -f ./Modelfile

Modelfile 示例

FROM llama2
# 設(shè)置參數(shù)
PARAMETER temperature 0.8
PARAMETER top_p 0.9
# 設(shè)置系統(tǒng)提示詞
SYSTEM """
你是一個有幫助的助手。
"""
# 導(dǎo)入模型權(quán)重
# ADAPTER ./lora.bin

API 相關(guān)

常用 API 端點

# 生成補全
curl http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt": "為什么天空是藍色的？"
}'
# 聊天模式
curl http://localhost:11434/api/chat -d '{
  "model": "llama2",
  "messages": [
    {"role": "user", "content": "你好！"}
  ]
}'
# 列出本地模型
curl http://localhost:11434/api/tags

實用技巧

批量操作

# 批量拉取常用模型
ollama pull llama2
ollama pull mistral
ollama pull qwen:7b
ollama pull neural-chat
# 查看所有命令幫助
ollama --help
# 查看特定命令幫助
ollama run --help

模型運行參數(shù)

# 運行并設(shè)置參數(shù)
ollama run llama2 --temperature 0.5 --top_p 0.9 --num_predict 512

常用模型推薦

# 聊天對話
ollama run llama2        # Meta 的 Llama 2
ollama run qwen:7b       # 阿里通義千問
ollama run deepseek-r1   # DeepSeek 推理模型
# 代碼生成
ollama run codellama     # 代碼專用模型
# 數(shù)學(xué)推理
ollama run wizard-math   # 數(shù)學(xué)推理模型
# 中文優(yōu)化
ollama run qwen2.5       # 最新的 Qwen2.5 系列

故障排查

# 查看日志
journalctl -u ollama -f          # Linux systemd 日志
tail -f ~/.ollama/logs/server.log # 直接查看日志文件
# 測試連接
curl http://localhost:11434
# 重置數(shù)據(jù)
rm -rf ~/.ollama/models/*         # 清理所有模型

這些命令覆蓋了 Ollama 的日常使用場景。需要我詳細解釋某個命令或功能的用法嗎？

好的，我來詳細解釋每個主要命令的用法和場景：

詳細命令解析

1. ollama pull - 下載模型

# 基本用法
ollama pull llama2
# 指定版本標(biāo)簽
ollama pull llama2:7b        # 7B 參數(shù)版本
ollama pull llama2:13b       # 13B 參數(shù)版本
ollama pull llama2:latest    # 最新版本
# 從私有倉庫拉取
ollama pull myregistry.com/mynamespace/mymodel:latest

實際應(yīng)用場景：

首次使用某個模型時需要拉取
更新已下載的模型版本
準備離線環(huán)境時預(yù)先下載

2. ollama run - 運行模型

# 交互式聊天模式
ollama run llama2
>>> 你好！       # 直接輸入內(nèi)容對話
>>> /help       # 查看內(nèi)置命令
>>> /exit       # 退出
# 單次查詢模式
ollama run llama2 "Python 中如何讀取文件？"
# 帶參數(shù)運行
ollama run llama2 --temperature 0.7 --num-predict 2048
# 從文件輸入
ollama run llama2 < input.txt

內(nèi)置命令：

# 在對話界面中可以使用
/help           # 顯示幫助
/set temperature 0.8  # 設(shè)置溫度參數(shù)
/set system "你是助手" # 設(shè)置系統(tǒng)提示詞
/save session1   # 保存當(dāng)前會話
/load session1   # 加載歷史會話
/clear           # 清除上下文
/exit           # 退出

3. ollama create - 創(chuàng)建自定義模型

# 從 Modelfile 創(chuàng)建
ollama create mymodel -f ./Modelfile
# 從已有模型創(chuàng)建
ollama create mymodel --from llama2

Modelfile 詳細示例：

dockerfile

# 基礎(chǔ)模型
FROM qwen:7b
# 調(diào)整模型參數(shù)
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER top_k 40
PARAMETER num_ctx 4096      # 上下文長度
PARAMETER num_predict 1024   # 最大生成長度
PARAMETER repeat_penalty 1.1 # 重復(fù)懲罰
# 系統(tǒng)提示詞
SYSTEM """
你是一個專業(yè)的編程助手，擅長 Python 和 Web 開發(fā)。
回答要簡潔準確，必要時提供代碼示例。
"""
# 模型模板
TEMPLATE """
### 用戶問題:
{{ .Prompt }}
### 助手回答:
"""
# 消息歷史格式
MESSAGE system 你是一個助手
MESSAGE user 你好
MESSAGE assistant 你好！有什么可以幫你？
# 指定 LoRA 適配器（如果有）
ADAPTER ./my-lora-adapter.bin
# 指定許可證
LICENSE MIT

4. ollama serve - 啟動服務(wù)

# 默認啟動（監(jiān)聽 127.0.0.1:11434）
ollama serve
# 允許外部訪問
export OLLAMA_HOST=0.0.0.0:11434
ollama serve
# 指定模型存儲路徑
export OLLAMA_MODELS=/data/ollama/models
ollama serve
# 設(shè)置并發(fā)處理
export OLLAMA_NUM_PARALLEL=4
ollama serve

作為服務(wù)運行（Linux）：

# 創(chuàng)建 systemd 服務(wù)
sudo nano /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/opt/ollama/models"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
# 啟用服務(wù)
sudo systemctl enable ollama
sudo systemctl start ollama

5. ollama list 和 ollama show

# 列出所有模型
ollama list
# 輸出示例：
# NAME                ID              SIZE    MODIFIED
# llama2:7b           xxxxxx          3.8G    2 days ago
# qwen:7b             yyyyyy          4.1G    5 hours ago
# 查看模型詳細信息
ollama show llama2
# 顯示模型架構(gòu)、參數(shù)、配置等
# 查看 Modelfile
ollama show llama2 --modelfile
# 顯示創(chuàng)建該模型使用的配置

6. ollama push/pull - 模型倉庫操作

# 推送到 Ollama 倉庫
ollama push username/mymodel:latest
# 推送到私有倉庫
ollama push myregistry.com/username/mymodel
# 設(shè)置倉庫認證
export OLLAMA_REGISTRY_USER="username"
export OLLAMA_REGISTRY_PASS="password"
ollama push username/mymodel

7. ollama cp/rm - 模型管理

# 復(fù)制模型（創(chuàng)建新變體）
ollama cp llama2:7b my-custom-llama
# 刪除模型
ollama rm llama2:7b
ollama rm llama2:13b
ollama rm qwen:7b
# 強制刪除（忽略錯誤）
ollama rm -f llama2:7b
# 刪除所有模型
ollama list | tail -n +2 | awk '{print $1}' | xargs -I {} ollama rm {}

實戰(zhàn)場景示例

場景1：創(chuàng)建專用編程助手

# 1. 創(chuàng)建 Modelfile
cat > Modelfile-python << 'EOF'
FROM codellama
PARAMETER temperature 0.2
PARAMETER num_predict 1024
SYSTEM """
你是一個 Python 專家，提供：
1. 簡潔的代碼示例
2. 解釋工作原理
3. 指出可能的錯誤
"""
EOF
# 2. 創(chuàng)建模型
ollama create python-helper -f ./Modelfile-python
# 3. 運行測試
ollama run python-helper "用 Python 實現(xiàn)快速排序"

場景2：批量處理文本

# 創(chuàng)建處理腳本
cat > process_texts.sh << 'EOF'
#!/bin/bash
MODEL="llama2"
while read -r line; do
  echo "處理: $line"
  ollama run $MODEL "總結(jié)這段文字: $line"
  echo "---"
done < input.txt
EOF
chmod +x process_texts.sh
./process_texts.sh

場景3：API 服務(wù)器配置

# Python 客戶端示例
import requests
import json
# 生成回復(fù)
response = requests.post('http://localhost:11434/api/generate', 
    json={
        "model": "llama2",
        "prompt": "寫一首關(guān)于春天的詩",
        "stream": False
    })
# 聊天模式
response = requests.post('http://localhost:11434/api/chat',
    json={
        "model": "llama2",
        "messages": [
            {"role": "system", "content": "你是一個詩人"},
            {"role": "user", "content": "寫一首詩"}
        ],
        "stream": True
    })

場景4：性能調(diào)優(yōu)

# 生產(chǎn)環(huán)境配置
export OLLAMA_HOST=0.0.0.0:11434
export OLLAMA_MODELS=/mnt/fast-disk/ollama/models  # 使用 SSD
export OLLAMA_KEEP_ALIVE=600s  # 模型在內(nèi)存中保持10分鐘
export OLLAMA_NUM_PARALLEL=4   # 并行處理數(shù)
export OLLAMA_MAX_LOADED_MODELS=2  # 最多同時加載2個模型
ollama serve
# 性能測試
time ollama run llama2 "Hello"

常見問題解決

內(nèi)存不足

# 限制模型使用的內(nèi)存
ollama run llama2 --num-ctx 1024
# 使用較小的量化版本
ollama pull llama2:7b-q4_0

連接超時

# 設(shè)置超時參數(shù)
export OLLAMA_CONNECTION_TIMEOUT=300
# 測試連接
curl -m 300 http://localhost:11434/api/generate ...

磁盤空間清理

# 查看占用
du -sh ~/.ollama/models/*
# 清理未使用的模型
ollama rm $(ollama list | grep "weeks ago" | awk '{print $1}')

這些命令涵蓋了從入門到進階的用法。

Tag：Ollama常用命令

最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线