如何在本地部署 DeepSeek Janus Pro 文生圖大模型
Hello, 大家新年好。
在這個春節(jié)期間最火的顯然是 DeepSeek 了。據(jù)不負責統(tǒng)計朋友圈每天給我推送關(guān)于 DeepSeek 的文章超過20篇。打開知乎跟B站也全是 DeepSeek 相關(guān)的內(nèi)容。不過大部分的內(nèi)容都是關(guān)于 DeepSeek R1 推理模型有多牛逼。在這里就不多說關(guān)于 R1 的廢話了，因為大家已經(jīng)看膩了。
R1 在本地用 ollama 跑了一下，太簡單了，都沒必要寫個教程。除了 R1 今天還在本地部署成功了 DeepSeek 的 Janus Pro 模型。
什么是 Janus Pro
Janus-Pro是一種創(chuàng)新的自回歸框架，其統(tǒng)一了多模態(tài)理解與生成任務(wù)。該框架通過將視覺編碼解耦到不同的處理路徑（同時仍使用單一統(tǒng)一的Transformer架構(gòu)進行信息處理），有效解決了先前方法的局限性。這種解耦機制不僅緩解了視覺編碼器在理解與生成雙重角色間的沖突，還顯著提升了框架的靈活性。Janus-Pro在性能上超越了以往的統(tǒng)一模型，并達到甚至超越了專用任務(wù)模型的表現(xiàn)水平。憑借其架構(gòu)簡潔性、高度靈活性和卓越有效性，Janus-Pro有望成為下一代統(tǒng)一多模態(tài)模型的重要技術(shù)方向。
以上內(nèi)容來自 Janus Pro github 倉庫的介紹，非常的學術(shù)。簡單說它是文生圖的模型，類似 DALL-E 3, Stable Diffusion。
以下就讓我們看看這么在本地的 PC 電腦來運行 Janus Pro 模型吧。
1. 安裝 conda
從以下地址下載 anaconda 的 windows 安裝包
https://www.anaconda.com/download
安裝完成后需要把安裝目錄配置到環(huán)境變量 PATH 上
2. 創(chuàng)建 python 虛擬環(huán)境
conda create -n janus_pro python=3.10 -y conda activate janus_pro
注意：Python 3.10是經(jīng)過驗證的兼容版本，避免使用其他版本導(dǎo)致依賴沖突
3. 克隆 janus 倉庫到本地
git clone https://github.com/deepseek-ai/Janus.git cd Janus
4. 安裝依賴
# 安裝基礎(chǔ)依賴 pip install -e .
注意：pip 安裝依賴的時候可能會遇到網(wǎng)絡(luò)問題，建議配置代理
5. 安裝 Gradio
pip install -e .[gradio]
到時候我們會通過 Gradio 的界面跟 janus 進行交互
6. 使用 janus pro 1B 模型
janus pro 默認啟動的時候使用的是 7B 參數(shù)的模型，本地電腦跑起來的話太卡了。這里我們會修改成使用 1B 模型，這樣的話大概 8G 的顯存也能勉強跑一跑,7B 的話對顯存的要求會更高。
找到我們克隆下來的倉庫。使用編輯器打開 demo/
把第15行改成：
model_path = "deepseek-ai/Janus-Pro-1B"
7. 啟動 Janus Pro
python demo/app_januspro.py
注意：啟動期間會從 huggingface 拉取 1B 模型，大小大概 4G，所以還是需要指定代理。
啟動成功后如下圖：
8. 使用 Gradio 界面進行交互
啟動成功后在瀏覽器里輸入: http://127.0.0.1:7860 即可訪問 Gradio 頁面。
9. 圖片理解
先來試試 janus pro 對圖片的理解。
This image is a humorous meme that uses the popular "buff Doge vs. sad Doge" format to compare two different approaches to visual encoding. ...
這個解釋到位的有點嚇人。
10. 文生圖
再來試試文字生成圖片
prompt：
A cute and adorable baby fox with big brown eyes, autumn leaves in the background enchanting,immortal,fluffy, shiny mane,Petals,fairyism,unreal engine 5 and Octane Render,highly detailed, photorealistic, cinematic, natural colors.
圖片是我從 Hugging Face 直接運行得到的。在我本地運行了30分鐘都沒出結(jié)果，我直接 ctrl-c 取消了?？赡苁俏业娘@卡太垃圾了(RTX4060 Mobile)。
總結(jié)
以上我們在本地 windows 上成功部署了 DeepSeek janus pro 模型。按照以上 step by step 的方式也沒什么難度。通過測試 janus pro 對圖片的理解非常到位。但是文生圖的測試失敗了，可能是我的顯卡太垃圾，如果有同學有 4090 這種顯卡可以試一試本地文生圖的性能。
到此這篇關(guān)于本地部署 DeepSeek Janus Pro 文生圖大模型的文章就介紹到這了,更多相關(guān)DeepSeek Janus Pro本地部署內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
本文給大家分享一款簡單實用的aixcoder智能編程助手開發(fā)插件推薦 ,需要的朋友可以參考下2019-06-06
很多時候，一個web站點，選擇什么樣的字符編碼，我們不會太過在意的。象中文網(wǎng)站，我們一般用gb2312,gbk,gb18030,也可以用utf-8。但是，可能我們不知道，選擇不同編碼，可能因此導(dǎo)致程序本身設(shè)計缺陷2016-06-06
這篇文章主要介紹了Flare應(yīng)用前后端性能優(yōu)化,制作?flare?的過程，其實也是?flame?性能調(diào)優(yōu)的過程。不過在解決問題之前，我們首先得能定位問題有哪些，帶著這些問題一起通過本文學習吧2022-02-02
本文主要介紹了Prometheus配置解析,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2024-05-05
這篇文章主要介紹了VS CODE 使用SVN插件的方法步驟，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-04-04
這篇文章主要為大家介紹了使用版本控制優(yōu)點原因介紹，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-04-04
本文主要介紹了Mac下更換Homebrew鏡像源的實現(xiàn)方法，文中通過示例代碼介紹的非常詳細，需要的朋友們下面隨著小編來一起學習學習吧2021-07-07
hello world是編程入門的經(jīng)典語句，我來給你們講一講關(guān)于hello world的知識吧。2014-07-07
本文主要介紹了VSCode SSH遠程連接與刪除的實現(xiàn)步驟，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2023-07-07
Session又稱為會話狀態(tài)，是Web系統(tǒng)中最常用的狀態(tài)，用于維護和當前瀏覽器實例相關(guān)的一些信息。我們控制用戶去權(quán)限中經(jīng)常用到Session來存儲用戶狀態(tài)，這篇文章會講下Session的存儲方式、在web.config中如何配置Session、Session的生命周期等內(nèi)容2012-05-05