如何本地部署DeepSeek
沒想到新年最熱鬧的地方之一會是互聯(lián)網(wǎng)，刷爆朋友圈的除了新年祝福還有DeepSeek。揣著一顆好奇心試了試，竟有一種發(fā)現(xiàn)新大路的感覺。估計是圍觀的人太多，在線的版本有時候會出現(xiàn)連不上的情況，好奇心驅(qū)使之下想嘗試本地部署。
方案
本地化方案非常簡單：Ollama + DeepSeek-R1 + Enchanted LLM 。
Ollama 是一個用于在本地運(yùn)行大型語言模型（LLMs）的工具，支持多種開源模型，如 Llama 2、Code Llama、Mistral 等。它簡化了模型下載、配置和運(yùn)行的過程，用戶可以通過命令行輕松管理模型。使用起來頗有docker的感覺，pull、run、ps...。安裝也簡單，選擇對于系統(tǒng)，下載安裝就妥了。
DeepSeek-R1
在Ollama的網(wǎng)站上（https://ollama.com/）Models頁面當(dāng)前排名第一的就是DeepSeek-R1，點(diǎn)進(jìn)去選擇對應(yīng)的版本，右邊會展示對應(yīng)的ollama 命令，復(fù)制命令粘貼到命令行工具中執(zhí)行即可。如圖：
這種高端操作一帆風(fēng)順貌似不太合理，所以我也遇到點(diǎn)問題。不同的版本大小差異會比較大，第一個上手的是70b這個版本，總大小43GB。en～下了兩個小時左右，終于好了，正準(zhǔn)備見證奇跡的時候，ollama拋出這樣一個提示：ollama Error: Post "http://127.0.0.1:11434/api/show": read tcp 127.0.0.1:57953->127.0.0.1:11434: read: connection reset by peer 。后來問了DeepSeek，它思考了半天，它告訴我The server is busy. Please try again later. 最后它讓我檢查服務(wù)狀態(tài)、端口占用、防火墻、Ollama版本......一頓操作之后突然想起了ollama ps這個命令，一看傻眼了，啥都沒有。突然明白是模型沒運(yùn)行起來，估計是電腦配置不夠，70b這個版本高攀不起。于是開始嘗試1.5b這個版本，一切順利，可以通過控制臺進(jìn)行對話了。讓它用React實(shí)現(xiàn)一個tab組件，好家伙給了我十幾個方案，果斷換下一個版本。于是選擇了32b這個版本，20GB竟然成功跑起來了。
Enchanted
控制臺對話終究沒有UI方便，在Ollama README上列舉了大量UI工具，如Open WebUI、Enchanted、Hollama、Lollms-Webui.... 因?yàn)楸镜厥荕acOs，這里選擇的是Enchanted。Enchanted是MacOs下的一個App，也支持IOS和Vision Pro，在AppStore上下載安裝即可。Enchanted配置非常簡單，填寫本地服務(wù)地址（Ollama本地服務(wù)是： localhost:11434）選擇對應(yīng)模型版本即可。至此本地化就完成了。最后附上紀(jì)念照：
到此這篇關(guān)于如何本地部署DeepSeek的文章就介紹到這了,更多相關(guān)本地部署DeepSeek內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
這篇文章主要為大家介紹了Git配置用戶簽名方式及原因說明，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-04-04
BurpSuite超詳細(xì)安裝和基礎(chǔ)使用教程(已破解)
Burp?Suite?是用于攻擊web?應(yīng)用程序的集成平臺包含了許多Burp工具，它主要用來做安全性滲透測試，可以實(shí)現(xiàn)攔截請求、Burp?Spider爬蟲、漏洞掃描（付費(fèi)）等類似Fiddler和Postman但比其更強(qiáng)大的功能，今天給大家介紹下BurpSuite安裝破解使用教程，感興趣的朋友一起看看吧2022-10-10
這篇文章主要介紹了Typora導(dǎo)出Word格式操作，本文給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-09-09
XMind?是一款非常實(shí)用的商業(yè)思維導(dǎo)圖，應(yīng)用Eclipse?RCP?開發(fā)架構(gòu)，打造易用、高效的可視化思維，強(qiáng)調(diào)該功能的可擴(kuò)展、跨平臺、穩(wěn)定性和性能，致力于幫助用戶提高生產(chǎn)率。本文給大家?guī)砹薠Mind?2021激活碼,需要的朋友可以參考下2021-12-12
我們在寫程序時，常常需要指明兩條或者更多的執(zhí)行路徑，使得程序執(zhí)行時，能夠選擇其中一條路徑，去執(zhí)行相應(yīng)的語句，產(chǎn)生對應(yīng)的結(jié)果 —— 這也是條件語句在程序中的作用。下面通過例子給大家介紹下if-else的使用，感興趣的朋友一起看看吧2020-10-10
SHA (Secure Hash Algorithm，譯作安全散列算法) 是美國國家安全局 (NSA) 設(shè)計，美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST) 發(fā)布的一系列密碼散列函數(shù)2020-06-06
2022最新騰訊輕量云?debian?10?安裝pve教程詳解
這篇文章主要介紹了騰訊輕量云?debian?10?安裝pve教程?2022,本文給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2022-10-10
git reflog 命令可以用來查看本地倉庫的所有操作記錄,包括所有分支的提交、合并、重置等操作,本文就詳細(xì)的介紹一下如何使用,感興趣的可以了解一下2023-08-08
Elaticsearch簡稱為es，es是一個開源的高擴(kuò)展的分布式全文檢索引擎，本文給大家介紹ElasticSearch基礎(chǔ)知識介紹，對ElasticSearch相關(guān)知識感興趣的朋友一起看看吧2022-07-07
本文主要介紹了Git常用命令的使用，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-05-05