?? 今日知識(shí)點(diǎn)

• 核心主題：Ollama GPU內(nèi)存使用情況查看及監(jiān)控方法

?? 如何查看Ollama的GPU內(nèi)存使用情況

方法1. 通過(guò)ollama ps

通過(guò)命令"ollama ps"來(lái)查看當(dāng)前運(yùn)行的模型及其資源占用情況是最直接的方法：

# 查看當(dāng)前運(yùn)行的模型及資源使用情況
ollama ps

輸出示例：

關(guān)鍵字段說(shuō)明：

• NAME：模型名稱和版本
• ID：模型ID
• SIZE：模型文件大小，即模型權(quán)重大小
• PROCESSOR：當(dāng)前的共享GPU和專用GPU使用百分比，其中CPU指共享GPU
• CONTEXT：模型上下文窗口的內(nèi)存占用
• UNTIL：模型運(yùn)行了多長(zhǎng)時(shí)間

實(shí)用技巧：

# 持續(xù)監(jiān)控（每2秒刷新一次）
watch -n 2 ollama ps
# Windows PowerShell 等效命令（每2秒執(zhí)行一次）
while ($true) { ollama ps; Start-Sleep 2 }

方法2. Windows平臺(tái)下通過(guò)任務(wù)管理器查看

對(duì)于Windows用戶，可以通過(guò)圖形界面直觀查看資源使用情況：

操作步驟：

1. 按 Ctrl + Shift + Esc 打開(kāi)任務(wù)管理器
2. 切換到「詳細(xì)信息」選項(xiàng)卡
3. 找到 ollama.exe 進(jìn)程
4. 右鍵點(diǎn)擊標(biāo)題行 →「選擇列(S)」→ 把「GPU」相關(guān)的列顯示處理

查看要點(diǎn)：

• GPU：顯示進(jìn)程的GPU使用率
• 專用 GPU 內(nèi)存：顯示顯存占用情況
• 共享 GPU 內(nèi)存：顯示系統(tǒng)內(nèi)存作為顯存使用的情況

下圖展示了筆者環(huán)境中的情況：

此外，還可以在任務(wù)管理器的性能頁(yè)面，查看GPU的總體使用情況，具體情況如下圖所示：

到此這篇關(guān)于查看Ollama GPU資源使用情況的兩種方法的文章就介紹到這了,更多相關(guān)Ollama GPU資源使用內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持腳本之家！

最新評(píng)論