1.前言

Ollama 是本地啟動大型語言模型（如 gpt-oss、Gemma 3、DeepSeek-R1、Qwen3 等）最簡單的方法。

本文介紹在 Linux 平臺上安裝和升級 Ollama，使用的系統(tǒng)是 Ubuntu 22.04.4 LTS。

我使用ollama最早版本是0.3.11，還是一年多前了，當前ollama新版本是0.19.0，現在有需求要使用最新支持的一系列模型，需要升級ollama版本，故在這里記錄一下。

2.安裝

官方提供Linux平臺上的安裝命令：

curl -fsSL https://ollama.com/install.sh | sh

但該命令安裝需要保持網絡暢通，否則很容易久等或因為網絡斷開，導致安裝失敗。

這種需要訪問外網的安裝命令，我一般習慣提前下載好安裝壓縮包，然后安裝的時候直接使用本地文件安裝，也就是手動安裝。

3.手動安裝

官方也提供了手動安裝命令：

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

官方的安裝命令，會自動下載ollama的二進制文件，并解壓到/usr目錄下。這也是要保持網絡暢通的…

所以這里我們提前去ollama軟件包發(fā)布頁面 https://github.com/ollama/ollama/releases，（可能需要科學上網），注意我使用是NVIDIA的顯卡，所以這里下載的是ollama-linux-amd64.tar.zst，不同顯卡、系統(tǒng)架構的軟件包是不同的。找到對應版本的ollama-linux-amd64.tar.zst下載到本地：

然后再手動解壓安裝：

sudo tar --zstd -xvf 自己下載的路徑/ollama-linux-amd64.tar.zst -C /usr

驗證安裝：

• 啟動ollama服務：ollama serve
• 在另一個終端中，確認 Ollama 正在運行：ollama -v

3.1 添加 Ollama 作為啟動服務

為Ollama創(chuàng)建一個用戶和群組：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

創(chuàng)建服務文件： /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target

然后設置成啟動服務：

sudo systemctl daemon-reload
sudo systemctl enable ollama

啟動 Ollama 并確認其運行：

sudo systemctl start ollama
sudo systemctl status ollama

3.2 配置 Ollama 服務器

在 Linux 上設置 Ollama 服務，Ollama 作為 systemd 服務運行，環(huán)境變量可以使用 systemctl 命令設置。

1. 通過調用systemctl edit ollama.service編輯 systemd 服務，會打開一個編輯。
2. 對于每個環(huán)境變量，在【Service】部分添加一行【Environment】：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_NUM_PARALLEL=20"
Environment="OLLAMA_MAX_LOADED_MODELS=3"
Environment="OLLAMA_KEEP_ALIVE=5m"
[Install]
WantedBy=default.target

我這里配置的幾個環(huán)境變量說明：

• OLLAMA_HOST: 設置 Ollama 服務監(jiān)聽的 IP 地址和端口。
• OLLAMA_ORIGINS: 允許的來源，默認為*，表示允許所有來源。
• OLLAMA_NUM_PARALLEL: 設置每個模型允許的并發(fā)請求數。
• OLLAMA_MAX_LOADED_MODELS: 設置允許加載的模型數量。
• OLLAMA_KEEP_ALIVE: 設置模型保持活動的時間間隔。

3. 保存后退出。
4. 重新加載systemd并重啟 Ollama：

systemctl daemon-reload
systemctl restart ollama

4.版本升級

升級ollama版本也挺簡單的，過程就是刪除舊庫，重新下載一遍目標版本的軟件包即可，然后重新啟動ollama服務。

從舊版本升級，先使用命令刪除舊庫：

sudo rm -rf /usr/lib/ollama

然后重新手動下載對應的軟件包，解壓安裝：

sudo tar --zstd -xvf 自己下載的路徑/ollama-linux-amd64.tar.zst -C /usr

5.查看日志

要查看 Ollama 作為啟動服務運行的日志，在終端運行以下命令：

journalctl -e -u ollama

6.卸載

要完全卸載ollama，需要移除掉ollama服務、ollama庫、二進制文件、已下載的模型以及 Ollama 服務用戶和組。

移除ollama服務：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

從你的庫目錄中移除 ollama 庫（/usr/local/lib、/usr/lib 或 /lib）：

sudo rm -r $(which ollama | tr 'bin' 'lib')

從你的 bin 目錄中移除 ollama 二進制文件（可以是 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

移除已下載的模型以及 Ollama 服務用戶和組：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

進制文件（可以是 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

移除已下載的模型以及 Ollama 服務用戶和組：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

以上就是在Linux平臺上Ollama安裝與手動升級版本的詳細內容，更多關于Ollama安裝與手動升級的資料請關注腳本之家其它相關文章！

最新評論