Ollama在Docker下的安裝與配置詳細(xì)教程
更新時(shí)間：2025年02月07日 10:51:47 作者：goomind
這篇文章主要介紹了如何通過Docker拉取Ollama鏡像并運(yùn)行,包括可視化界面和命令行兩種方式,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下
一、拉取 Ollama 鏡像
方式一：Docker 軟件在可視化界面中搜索并下載
方式二：官網(wǎng)推薦直接使用下面的指令拉取下載鏡像，本項(xiàng)目只需在CPU上即可運(yùn)行。
# CPU 或者 Nvidia GPU docker pull ollama/ollama # AMD GPU docker pull ollama/ollama:rocm
注：如果讀者想要使用具體的版本的鏡像，明確運(yùn)行環(huán)境，可以使用下面的指令:
# CPU 或 Nvidia GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0 # AMD GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0-rocm
二、運(yùn)行ollama鏡像
方式一：Docker在可視化界面中運(yùn)行鏡像
- 下載完成后，可以在
Images中找到Ollama鏡像，點(diǎn)擊run標(biāo)識(shí)即可運(yùn)行，注意運(yùn)行前在彈出的可選設(shè)置里面，選定一個(gè)端口號(hào)（如8089）。
- 在
Containers中找到該鏡像，點(diǎn)擊OLLM即可進(jìn)入 Ollama 界面
- 驗(yàn)證安裝完成，在
Exec處輸入：
ollama -h
輸出如下：即表示安裝成功??
Large language model runner Usage: ollama [flags] ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command Flags: -h, --help help for ollama -v, --version Show version information
- 終端使用 Ollama :
以下是 Ollama 使用常見的指令：
ollama serve #啟動(dòng)ollama ollama create #從模型文件創(chuàng)建模型 ollama show #顯示模型信息 ollama run #運(yùn)行模型 ollama pull #從注冊(cè)表中拉取模型 ollama push #將模型推送到注冊(cè)表 ollama list #列出模型 ollama cp #復(fù)制模型 ollama rm #刪除模型 ollama help #獲取有關(guān)任何命令的幫助信息
ollama run llama3
下載速度取決于你的帶寬，下載完畢即可使用?記得使用
control + D退出聊天
方式二：命令行啟動(dòng)
- CPU 版本：
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
總結(jié)
到此這篇關(guān)于Ollama在Docker下的安裝與配置的文章就介紹到這了,更多相關(guān)Ollama在Docker下安裝與配置內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
docker啟動(dòng)報(bào)錯(cuò)問題OCI runtime create failed: c
這篇文章主要介紹了docker啟動(dòng)報(bào)錯(cuò)問題OCI runtime create failed: container_linux.go:380: starting container process,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-08-08
使用Docker運(yùn)行SQL Server的實(shí)現(xiàn)
這篇文章主要介紹了使用Docker運(yùn)行SQL Server的實(shí)現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-07-07
Docker CentOS7的系統(tǒng)上安裝部署以及基礎(chǔ)教程
這篇文章主要介紹了Docker CentOS7的系統(tǒng)上安裝部署以及基礎(chǔ)教程的相關(guān)資料,需要的朋友可以參考下2016-10-10
Mac為docker和kubectl添加自動(dòng)補(bǔ)全命令的方法
很多朋友不太明白如何為docker和kubectl添加自動(dòng)補(bǔ)全命令，本文通過一些示例給大家介紹kubectl基礎(chǔ)概念及語法知識(shí)，需要的朋友參考下吧2021-06-06
docker的pdflatex環(huán)境配置的方法步驟
這篇文章主要介紹了docker的pdflatex環(huán)境配置的方法步驟，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03
詳解docker compose搭建lnmpr環(huán)境實(shí)現(xiàn)
這篇文章主要為大家介紹了使用docker compose搭建lnmpr環(huán)境實(shí)現(xiàn)詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-11-11
Dokcer里面有很多命令,全部的可以參考官方Reference文檔,命令太多我們只需要掌握部分命令即可,這篇文章主要給大家介紹了關(guān)于Docker常用命令總結(jié)大全的相關(guān)資料,需要的朋友可以參考下2024-01-01
文章介紹了如何創(chuàng)建目錄、配置文件和搭建MySQL集群,包括設(shè)置主庫和兩個(gè)從庫的配置,并詳細(xì)說明了如何創(chuàng)建復(fù)制用戶和連接主庫2025-11-11
從Docker容器中備份整個(gè)PostgreSQL的操作步驟
現(xiàn)在需要從Docker容器中備份整個(gè)PostgreSQL后,然后,使用備份文件在另外一個(gè)pg的docker容器中恢復(fù)過來,所以本文給大家介紹了從Docker容器中備份整個(gè)PostgreSQL的操作步驟,通過代碼示例講解的非常詳細(xì),具有一定的參考價(jià)值,需要的朋友可以參考下2024-10-10
docker:?Error?response?from?daemon的錯(cuò)誤解決
本文主要介紹了docker:?Error?response?from?daemon的錯(cuò)誤解決,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2025-08-08