Python通過Ollama調(diào)用大語言模型
說實話這個入門教程也不是特別有必要,因為直接問AI然后驗證即可,我這篇就是在AI的指導(dǎo)下操作的。不過想想還是留作個人記錄吧。。
Ollama 是什么
AI回答:(僅供參考)
Ollama 是一個開源的命令行工具,讓你能在本地電腦上輕松運行、管理和與大型語言模型(LLM)交互。
簡單來說,它相當(dāng)于大語言模型的“Docker”——極大簡化了在本地部署和運行 Llama 3、DeepSeek、Mistral 等開源模型的流程。
下載

安裝完畢后。打開。
可以選一個模型,這里我就選一個下載到本地的而非云端的了,否則感覺跟在網(wǎng)頁端和AI對話沒啥區(qū)別。。

等待下載:

可以對話了:

使用 python 調(diào)用大語言模型
在實際跑python之前,先確認(rèn)下Ollama服務(wù)是否啟動了。
執(zhí)行curl -s http://127.0.0.1:11434,啟動的話應(yīng)該顯示 Ollama is running

然后看下模型名字叫啥,cmd中輸入ollama list:
我這里就是 qwen3:4b

然后就可以調(diào)用如下腳本,向大語言模型發(fā)送信息并得到回應(yīng)了。
注意修改model名字,content中是發(fā)的信息,這里是 “你好,你是哪個模型?”。最后打印出回應(yīng)。
import requests
import json
# Ollama API 地址
url = "http://localhost:11434/api/chat"
# 請求體
payload = {
"model": "qwen3:4b",
"messages": [
{"role": "user", "content": "你好,你是哪個模型?"}
],
"stream": False # 非流式返回
}
# 發(fā)送 POST 請求
response = requests.post(url, json=payload)
# 解析響應(yīng)
if response.status_code == 200:
result = response.json()
print(result['message']['content'])
else:
print(f"請求失敗: {response.status_code}")(以上腳本也是AI自己寫的,有問題的話可以直接問AI)
結(jié)果:

到此這篇關(guān)于Python通過Ollama調(diào)用大語言模型的文章就介紹到這了,更多相關(guān)Python Ollama調(diào)用大語言模型內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python通過pymysql調(diào)用MySQL進(jìn)行增刪改移查
這篇文章主要介紹了Python通過pymysql調(diào)用MySQL,從而實現(xiàn)數(shù)據(jù)的增刪改移查功能,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2021-12-12
Python入門之使用pandas分析excel數(shù)據(jù)
這篇文章主要給大家介紹了關(guān)于Python入門學(xué)習(xí)之使用pandas分析excel數(shù)據(jù)的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用python具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-05-05
使用bandit對目標(biāo)python代碼進(jìn)行安全函數(shù)掃描的案例分析
這篇文章主要介紹了使用bandit對目標(biāo)python代碼進(jìn)行安全函數(shù)掃描,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-01-01

