最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

ollama本地部署DeepSeek教程的實(shí)現(xiàn)

  發(fā)布時(shí)間:2026-03-31 10:54:31   作者:夢(mèng)想就是摸魚(yú)   我要評(píng)論
本文主要介紹如何使用ollama本地部署deepseek大模型,以及使用WebUI工具界面進(jìn)行交互,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧

一、下載安裝ollama

前往ollama官網(wǎng)Download Ollama on Windows進(jìn)行下載,根據(jù)自己電腦系統(tǒng)(macOS、Linux、Windows)自行下載。

下載完成后進(jìn)行安裝,安裝步驟比較簡(jiǎn)單這里不再贅述。(建議電腦內(nèi)存至少留下4G的存儲(chǔ)空間,因?yàn)楹罄m(xù)還要下載模型?。?/p>

安裝完成后,需要配置相關(guān)環(huán)境變量,在系統(tǒng)環(huán)境變量中添加以下三個(gè)變量:

OLLAMA_HOST:該變量用于指定 Ollama 服務(wù)的主機(jī)地址和端口。借助設(shè)置這個(gè)變量,你可以讓 Ollama 客戶端知曉連接到哪個(gè) Ollama 服務(wù)實(shí)例。默認(rèn)情況下,Ollama 服務(wù)會(huì)監(jiān)聽(tīng) 127.0.0.1:11434。要是你更改了服務(wù)監(jiān)聽(tīng)的地址和端口,就需要設(shè)置 OLLAMA_HOST 來(lái)確??蛻舳四苷_連接。這里將 OLLAMA_HOST 環(huán)境變量設(shè)置為 0.0.0.0 時(shí),意味著 Ollama 服務(wù)將監(jiān)聽(tīng)服務(wù)器上所有可用的網(wǎng)絡(luò)接口。

OLLAMA_MODELS:此變量用于指定存儲(chǔ)模型的目錄。Ollama 會(huì)在這個(gè)目錄里存儲(chǔ)和管理下載的模型。默認(rèn)情形下,模型會(huì)被存于系統(tǒng)的用戶數(shù)據(jù)目錄。若想要把模型存到別的位置,就可以通過(guò)設(shè)置這個(gè)變量來(lái)達(dá)成。

OLLAMA_ORIGINS:該變量用于指定允許訪問(wèn) Ollama API 的來(lái)源。在跨域請(qǐng)求時(shí),Ollama 會(huì)依據(jù)這個(gè)變量來(lái)決定是否允許特定來(lái)源的請(qǐng)求。你可以設(shè)置多個(gè)來(lái)源,用逗號(hào)分隔。例如,設(shè)置為 http://example.com,https://another-example.com 就能允許這兩個(gè)域名的請(qǐng)求訪問(wèn) Ollama API。這里將 OLLAMA_ORIGINS 設(shè)置為 * ,表示允許來(lái)自任何來(lái)源的請(qǐng)求訪問(wèn) Ollama API。也就是說(shuō),任何域名、IP 地址或者端口的客戶端都可以向 Ollama 服務(wù)發(fā)送請(qǐng)求。這種設(shè)置在開(kāi)發(fā)和測(cè)試環(huán)境中比較方便,因?yàn)槟憧梢钥焖衮?yàn)證不同來(lái)源的客戶端是否能夠正常與 Ollama 服務(wù)進(jìn)行交互。在生產(chǎn)環(huán)境中,將 OLLAMA_ORIGINS 設(shè)置為 * 存在一定的安全風(fēng)險(xiǎn),因?yàn)樗赡軙?huì)導(dǎo)致未經(jīng)授權(quán)的訪問(wèn)。建議在生產(chǎn)環(huán)境中,只允許特定的、受信任的來(lái)源訪問(wèn) Ollama API,例如將 OLLAMA_ORIGINS 設(shè)置為你的應(yīng)用程序的域名或 IP 地址。

二、下載deepseek模型

1.查看ollama中有哪些模型

ollama list

2.下載deepseek模型到本地,可根據(jù)自己電腦配置選擇下載不同大小的模型,這里以deepseek-r1:1.5b為例

ollama pull deepseek-r1:1.5b

3.運(yùn)行deepseek模型

ollama run deepseek-r1:1.5b

執(zhí)行上述指令后即可運(yùn)行與deepseek模型進(jìn)行交互。

但是,上述交互界面是在cmd窗口下,為了能夠更方便的進(jìn)行交互,這里我們選擇安裝Open WebUI開(kāi)源工具。

三、使用WebUI工具進(jìn)行交互

1.安裝Open WebUI

需要注意的是,安裝Open WebUI之前需要先安裝Docker!!!

Open WebUI安裝指令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安裝完成后,打開(kāi)Docker應(yīng)用界面即可發(fā)現(xiàn)出現(xiàn)了Open WebUI

2.在WebUI圖形化界面使用本地部署的deepseek

首先要確保之前ollama中的deepseek處于開(kāi)啟狀態(tài),不要關(guān)閉運(yùn)行界面。Docker也要開(kāi)啟。

然后打開(kāi)瀏覽器,輸入127.0.0.1:3000出現(xiàn)如下界面:

首次使用需要?jiǎng)?chuàng)建管理員賬號(hào),這里我們按照提示進(jìn)行創(chuàng)建即可,創(chuàng)建完成后登錄進(jìn)入WebUI頁(yè)面如下所示:

我們選擇本地部署的deepseek-r1:1.5b模型,即可進(jìn)行交互問(wèn)答。

到此這篇關(guān)于ollama本地部署DeepSeek教程的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)ollama本地部署DeepSeek內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持腳本之家!

相關(guān)文章

  • Docker部署Ollama搭建本地AI開(kāi)發(fā)環(huán)境

    本文介紹如何通過(guò)Docker+Ollama搭建本地AI開(kāi)發(fā)環(huán)境,解決云端API調(diào)用成本高、延遲大的問(wèn)題,幫助開(kāi)發(fā)者快速實(shí)現(xiàn)本地AI應(yīng)用開(kāi)發(fā),無(wú)需擔(dān)心API調(diào)用限制和費(fèi)用問(wèn)題,感興趣的可
    2026-03-30
  • Windows11下Ollama部署Qwen2.5大模型的實(shí)戰(zhàn)指南

    本文旨在記錄 如何在Windows 11 本地環(huán)境下,利用 Ollama 部署 Qwen2.5 大模型,并實(shí)現(xiàn) API 調(diào)用,無(wú)需顯卡也能跑”、能夠確保隱私安全,有需要的小伙伴可以跟隨小編一起了解
    2026-03-18

最新評(píng)論

女性| 石屏县| 六枝特区| 斗六市| 左权县| 鹤岗市| 固始县| 获嘉县| 揭阳市| 治县。| 新化县| 博兴县| 黔江区| 广南县| 临朐县| 浦江县| 宜阳县| 盱眙县| 土默特左旗| 莱芜市| 长治市| 香格里拉县| 沂南县| 安平县| 邻水| 灵璧县| 灵石县| 儋州市| 新密市| 焉耆| 大埔区| 华坪县| 博罗县| 浦城县| 德阳市| 玉田县| 安义县| 西平县| 谢通门县| 阿勒泰市| 康乐县|