Docker環(huán)境下快速部署Ollama與Open-WebUI的詳細(xì)指南
在本篇文章中，我們將深入探討如何在Docker中高效部署 Ollama 和 Open-WebUI，并解決在實(shí)際使用中常見的問題，確保你的模型服務(wù)穩(wěn)定高效地運(yùn)行。
一、Ollama 和 Open-WebUI 快速部署
1. 啟動(dòng) Ollama
我們首先使用 Docker 運(yùn)行 Ollama，確保它具備 GPU 加速功能：
docker run --name=ollama \ --volume /home/user/.ollama:/root/.ollama \ --network=bridge \ -p 11434:11434 \ --runtime=nvidia \ --gpus all \ --detach=true \ ollama/ollama serve
--runtime=nvidia --gpus all：?jiǎn)⒂?GPU 加速（如果沒有 GPU，可將其刪除）。--volume /home/user/.ollama:/root/.ollama：持久化數(shù)據(jù)存儲(chǔ)在主機(jī)目錄。--network=bridge：設(shè)置為橋接模式，確保網(wǎng)絡(luò)隔離。
2. 啟動(dòng) Open-WebUI
接下來，我們部署 Open-WebUI：
docker run -d -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ -e ENABLE_OPENAI_API=False \ ghcr.io/open-webui/open-webui:main
-p 3000:8080：將容器端口 8080 映射到主機(jī)端口 3000。-e ENABLE_OPENAI_API=False：關(guān)閉 OpenAI API（可根據(jù)需求開啟）。--restart always：確保 Open-WebUI 崩潰后自動(dòng)重啟。
二、Ollama 模型調(diào)用示例
在 Ollama 容器中，我們可以輕松運(yùn)行模型：
docker exec -it ollama ollama run llama2
ollama run llama2：指定調(diào)用的模型（此處為 llama2）。
三、常見錯(cuò)誤與解決方法
錯(cuò)誤一：忘記 Open-WebUI 賬號(hào)密碼
如果你忘記了 Open-WebUI 的賬號(hào)密碼，需清除數(shù)據(jù)：
docker volume rm open-webui
注意：這將清除所有數(shù)據(jù)，請(qǐng)謹(jǐn)慎操作！
錯(cuò)誤二：模型版本不兼容
如果在嘗試運(yùn)行模型（如 Qwen3:32b）時(shí)，出現(xiàn)如下錯(cuò)誤：
Error: pull model manifest: 412:
The model you are attempting to pull requires a newer version of Ollama.
這意味著 Ollama 版本已過期，無(wú)法兼容最新模型。
解決方法：升級(jí) Ollama
1. 停止并刪除舊版本容器
docker stop ollama docker rm ollama
2. 拉取最新的 Ollama 鏡像
docker pull ollama/ollama:latest
3. 使用最新版本啟動(dòng) Ollama
docker run --name=ollama \ --volume /home/user/.ollama:/root/.ollama \ --network=bridge \ -p 11434:11434 \ --runtime=runc \ --detach=true \ ollama/ollama serve
4. 確保版本升級(jí)成功
docker exec -it ollama ollama --version
輸出最新版本號(hào)即表示升級(jí)成功。
5. 再次運(yùn)行 Qwen3:32b 模型
docker exec -it ollama ollama run qwen3:32b
四、最佳實(shí)踐：提高模型部署穩(wěn)定性
始終保持 Ollama 和 Open-WebUI 鏡像為最新版本：
docker pull ollama/ollama:latest docker pull ghcr.io/open-webui/open-webui:main
使用持久化數(shù)據(jù)卷，防止數(shù)據(jù)丟失：
-v /home/user/.ollama:/root/.ollama -v open-webui:/app/backend/data
定期備份重要配置和模型文件。
五、總結(jié)
本文詳細(xì)講解了如何在 Docker 環(huán)境中部署 Ollama 和 Open-WebUI，并分析了常見錯(cuò)誤和解決方法。無(wú)論你是剛?cè)腴T Docker 還是已經(jīng)有一定經(jīng)驗(yàn)，這篇指南都能幫助你快速構(gòu)建穩(wěn)定的模型服務(wù)。
到此這篇關(guān)于Docker環(huán)境下快速部署Ollama與Open-WebUI的詳細(xì)指南的文章就介紹到這了,更多相關(guān)Docker部署Ollama與Open-WebUI內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
docker?運(yùn)行花生殼實(shí)現(xiàn)內(nèi)外網(wǎng)穿透的詳細(xì)過程
這篇文章主要介紹了docker?運(yùn)行花生殼實(shí)現(xiàn)內(nèi)外網(wǎng)穿透,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2023-03-03
查看當(dāng)前docker容器使用的cpu數(shù)量的方法
Docker容器CPU使用數(shù)量可通過三種方法查看：容器內(nèi)用lscpu/nproc查看核心數(shù),宿主機(jī)用docker inspect查CpusetCpus限制,實(shí)時(shí)用docker stats監(jiān)控使用率,下面小編給大家詳細(xì)說說,需要的朋友可以參考下2025-05-05
這篇文章主要給大家介紹了關(guān)于Docker部署Nginx并修改配置文件的兩種方式,文中通過實(shí)例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2023-01-01
本文主要介紹了docker安裝nginx并配置ssl的方法步驟，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-03-03
部署Prometheus+Grafana監(jiān)控平臺(tái)實(shí)踐
文章介紹了如何在宿主機(jī)上配置Prometheus和Grafana,并使用NodeExporter監(jiān)控Linux服務(wù)器,通過Docker部署Prometheus和Grafana,并在Prometheus中添加NodeExporter作為數(shù)據(jù)源,最后,通過Grafana導(dǎo)入儀表盤來可視化監(jiān)控?cái)?shù)據(jù)2026-01-01
使用docker在服務(wù)器運(yùn)行多個(gè)php版本
這篇文章主要介紹了利用docker在服務(wù)器運(yùn)行多個(gè)版本php,本文以php7為例，通過實(shí)例代碼的形式給大家介紹的非常詳細(xì)，具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2019-04-04
Jenkins Pipeline中Docker鏡像構(gòu)建與推送的常見問題及解決方案
在現(xiàn)代 DevOps 實(shí)踐中,Jenkins 作為一款流行的持續(xù)集成和持續(xù)交付（CI/CD）工具,被廣泛應(yīng)用于自動(dòng)化構(gòu)建、測(cè)試和部署流程,然而,在實(shí)際使用 Jenkins Pipeline 進(jìn)行 Docker 鏡像構(gòu)建和推送的過程中,可能會(huì)遇到各種問題,本文將通過一個(gè)具體的案例給大家詳細(xì)的介紹一下2025-01-01
Docker安裝Minio+SpringBoot上傳下載文件方式
本文主要介紹了如何通過Docker安裝Minio并進(jìn)行訪問測(cè)試,同時(shí)也講解了如何在SpringBoot中上傳文件到Minio,內(nèi)容包含了pom文件引入依賴,application.properties配置,Minio配置,MinioClinet,FileService,FileServiceImpl的配置2024-10-10
本文主要介紹了docker?commit命令的具體使用，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-06-06
不知道大家在對(duì)程序進(jìn)行Docker鏡像打包會(huì)不會(huì)有些疑惑，比如鏡像分層打包最后匯總成程序的鏡像問題，所以這篇針對(duì)一些問題進(jìn)行了分析，文章主要介紹了Docker鏡像分層的一些注意事項(xiàng)，有需要的朋友們可以參考學(xué)習(xí)，下面來一起看看吧。2016-10-10