Windows安裝與配置Ollama

簡(jiǎn)介

本節(jié)學(xué)習(xí)如何在 Windows 系統(tǒng)中完成 Ollama 的安裝與配置，主要分為以下幾個(gè)部分:

• 訪問(wèn)官網(wǎng)直接完成下載
• 環(huán)境變量配置
• 運(yùn)行 Ollama
• 驗(yàn)證安裝成功??

一、訪問(wèn)官網(wǎng)直接完成下載

訪問(wèn)官網(wǎng)主頁(yè)

Ollama 下載：https://ollama.com/download

Ollama 官方主頁(yè)：https://ollama.com

Ollama 官方 GitHub 源代碼倉(cāng)庫(kù)：https://github.com/ollama/ollama/

等待瀏覽器下載文件 OllamaSetup.exe，完成后雙擊該文件，出現(xiàn)如下彈窗，點(diǎn)擊 Install 等待下載完成即可。

安裝完成后，可以看到 Ollama 已經(jīng)默認(rèn)運(yùn)行了。

二、環(huán)境變量配置

Ollma可以像其他軟件一樣在電腦上完成一鍵安裝，不同的是，建議按照實(shí)際需求配置下系統(tǒng)環(huán)境變量參數(shù)

默認(rèn)的模型保存路徑在C盤(pán)，我們把路徑更改到有更多可用空間的分區(qū)或目錄，可以更好地管理存儲(chǔ)空間。

• 添加 OLLAMA_MODELS 環(huán)境變量改變模型存儲(chǔ)的位置。例如 E:\ollama\models
• 設(shè)置完成后重啟 ollama 或 PowerShell，即可完成更改。

三、運(yùn)行Ollama

• 命令行語(yǔ)句啟動(dòng)

ollama serve

啟動(dòng) Ollama 時(shí)會(huì)報(bào)錯(cuò)如下，因?yàn)?Windows 系統(tǒng)安裝 Ollama 時(shí)會(huì)默認(rèn)開(kāi)機(jī)啟動(dòng)，Ollama 服務(wù)默認(rèn)是 http://127.0.0.1:11434

Error: listen tcp 127.0.0.1:11434: bind: Only one usage of each socket address (protocol/network address/port) is normally permitted.

解決方法：

快捷鍵 Win+X 打開(kāi)任務(wù)管理器，點(diǎn)擊 啟動(dòng)，禁用 Ollama，并在進(jìn)程中結(jié)束 Ollama 的任務(wù)。

再次使用 ollama serve打開(kāi) Ollama。

驗(yàn)證成功啟動(dòng)：

• 快捷鍵 Win+R，輸入 cmd，打開(kāi)命令行終端。
• 輸入 netstat -aon|findstr 11434 查看占用端口11434的進(jìn)程。

netstat -aon|findstr 11434

輸出： TCP 127.0.0.1:11434 0.0.0.0:0 LISTENING 17556

顯示11434端口被17556進(jìn)程占用

查看該進(jìn)程運(yùn)行的情況，發(fā)現(xiàn) Ollama 已經(jīng)啟動(dòng)。

tasklist|findstr "17556"

輸出如下：ollama.exe 17556 Console 1 31,856 K

四、驗(yàn)證安裝成功??

• 終端輸入：

ollama -h

輸出如下：即表示安裝成功??

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

終端使用Ollama :

library (ollama.com) 這里是ollama的模型庫(kù)，搜索你想要的模型，然后直接啟動(dòng)！

ollama run qwen2.5:3b

下載速度取決于你的帶寬，下載完畢即可使用?記得使用 control + D 退出聊天

到此這篇關(guān)于Windows安裝與配置Ollama的圖文教程的文章就介紹到這了,更多相關(guān)Ollama安裝與配置內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！ 

最新評(píng)論