詳解Claude Code 接入本地大模型Qwen3.6 進(jìn)行代碼開發(fā)(vLLM 部署 + 環(huán)境配置)
我要評(píng)論背景
Claude Code 是 Anthropic 推出的智能編碼命令行工具，默認(rèn)使用 Claude 系列模型。但我們可以通過指定自定義 API 端點(diǎn)，將其連接到本地部署的 Qwen3.6 模型，實(shí)現(xiàn)“本地模型 + 強(qiáng)大編碼助手”的組合。
本文將帶你完成：
一、環(huán)境準(zhǔn)備與模型部署
1.1 安裝 Docker
請(qǐng)確保你的系統(tǒng)已安裝 Docker 并支持 GPU（NVIDIA Container Toolkit）。
1.2 創(chuàng)建 docker-compose.yml
在合適的位置創(chuàng)建項(xiàng)目目錄，例如 ~/vllm-qwen，并在其中新建 docker-compose.yml 文件，內(nèi)容如下：
version: '3.8'
services:
vllm-qwen:
image: vllm/vllm-openai:cu130-nightly
container_name: vllm-qwen36-35B-A3B-FP8
restart: unless-stopped
ipc: host
ports:
- "8000:8000"
volumes:
- /app/vllm/data/models:/root/.cache/modelscope # 模型緩存目錄，可按需修改
environment:
- VLLM_USE_MODELSCOPE=true
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]
command:
- --model
- "Qwen/Qwen3.6-35B-A3B-FP8"
- --tensor-parallel-size
- "1"
- --gpu-memory-utilization
- "0.8"
- --served-model-name
- "Qwen3.6-35B-A3B-FP8"
- --enable-prefix-caching
- --enable-auto-tool-choice
- --default-chat-template-kwargs
- '{"enable_thinking": false}'
- --tool-call-parser
- "qwen3_coder"
- --max-model-len
- "196608"
- --max-num-batched-tokens
- "8192"
- --enable-chunked-prefill
- --max-num-seqs
- "32"
- --kv-cache-dtype
- "fp8"1.3 啟動(dòng)模型服務(wù)
在 docker-compose.yml 所在目錄執(zhí)行：
docker compose up -d
服務(wù)啟動(dòng)后會(huì)監(jiān)聽本機(jī) 8000 端口。
1.4 驗(yàn)證部署
使用 curl 檢查模型列表：
curl http://127.0.0.1:8000/v1/models
正常返回應(yīng)包含 Qwen3.6-35B-A3B-FP8。
二、安裝 Claude Code
Claude Code 支持多種安裝方式，可根據(jù)你的系統(tǒng)選擇。
2.1 通過官方腳本安裝（推薦）
macOS / Linux / WSL（Linux 子系統(tǒng)）
打開終端，執(zhí)行：
curl -fsSL https://claude.ai/install.sh | bash
安裝完成后重啟終端或執(zhí)行 source ~/.bashrc（或 ~/.zshrc）。
Windows PowerShell（管理員模式運(yùn)行）
irm https://claude.ai/install.ps1 | iex
Windows CMD（命令提示符）
curl -fsSL https://claude.ai/install.cmd -o install.cmd && install.cmd && del install.cmd
2.2 通過 npm 安裝（適用于已安裝 Node.js 的用戶）
npm install -g @anthropic-ai/claude-code
安裝后，執(zhí)行一次初始化（非必須，但建議）：
claude install
三、配置 Claude Code 使用本地 Qwen3.6
3.1 設(shè)置環(huán)境變量
將 Claude Code 指向本地 vLLM 服務(wù)。當(dāng)前服務(wù)運(yùn)行在 127.0.0.1:8000，如果其他機(jī)器使用可以ifconfig查看服務(wù)器的ip地址，認(rèn)證 Token 可隨意設(shè)置（vLLM 默認(rèn)不校驗(yàn)，但需要占位符）。
Linux / macOS / WSL (bash/zsh)
export ANTHROPIC_BASE_URL="http://127.0.0.1:8000" export ANTHROPIC_AUTH_TOKEN="your_key"
若想永久生效，可將這兩行追加到 ~/.bashrc 或 ~/.zshrc。
Windows PowerShell
$env:ANTHROPIC_BASE_URL="http://127.0.0.1:8000" $env:ANTHROPIC_AUTH_TOKEN="your_key"
Windows CMD
set ANTHROPIC_BASE_URL=http://127.0.0.1:8000 set ANTHROPIC_AUTH_TOKEN=your_key
3.2 指定模型啟動(dòng) Claude Code
環(huán)境變量設(shè)置完畢后，使用 --model 參數(shù)指定模型名稱（必須與 vLLM 啟動(dòng)參數(shù) --served-model-name 一致）：
claude --model Qwen3.6-35B-A3B-FP8
首次運(yùn)行會(huì)提示登錄，由于我們使用的是自定義端點(diǎn)，可以隨意輸入郵箱或直接回車跳過。
啟動(dòng)成功后，你將看到類似如下的交互界面：
Claude Code v2.x.x Type /help for commands, /exit to quit. > 你好，請(qǐng)幫我寫一個(gè) Python 冒泡排序
到此這篇關(guān)于Claude Code 接入本地大模型Qwen3.6 進(jìn)行代碼開發(fā)（vLLM 部署 + 環(huán)境配置）的文章就介紹到這了,更多相關(guān)Claude Code 接入大模型Qwen內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持腳本之家！
相關(guān)文章
本文介紹了配置一個(gè)代理服務(wù)器來轉(zhuǎn)發(fā)Claude和Qwen的請(qǐng)求,以便兼容不同的請(qǐng)求格式,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋2026-05-11
Claude Code接入國產(chǎn)大模型(GLM/Qwen)配置全解析
本文介紹了如何將Claude Code接入國產(chǎn)大模型（GLM/Qwen）的配置方法，并列舉了幾常見問題和解決方案，文末還總結(jié)了配置方法和模型分層建議，希望對(duì)大家有一定的幫助2026-05-07
Qwen3.6-27B 本地私有化部署 + Claude Code 連接應(yīng)用
本文主要介紹 Qwen3.6-27B 的本地私有化部署過程，部署采用vLLM 引擎，以及將 Claude Code 指向使用私有化部署的模型，并且開發(fā)一個(gè)五子棋的網(wǎng)頁小游戲，以及針對(duì)開源項(xiàng)目2026-04-29
Claude Code完整指南：MCP、Skills、第三方模型配置一次搞定
Claude Code 是 Anthropic 官方出的命令行工具，直接在終端里跟 Claude 交互，干的事情就是幫你寫代碼、改代碼、跑命令,本文給大家介紹了Claude Code 完整上手指南，MCP、S2026-05-08
Claude Code的CLAUDE.md加載時(shí)機(jī)與配置規(guī)范
最新版 Claude Code Desktop（桌面版）已經(jīng)支持通過圖形化界面配置第三方大模型,對(duì)于不想反復(fù)折騰 CLI、環(huán)境變量和本地配置文件的用戶來說，這個(gè)更新非常實(shí)用,本文就給大家2026-06-09
OpenCode安裝及配置Claude Opus 4.6模型完整指南
本文介紹了如何從零開始在不同操作系統(tǒng)上安裝并配置OpenCode,這是一款100%開源的AI編碼代理,文章詳細(xì)解釋了使用NodeJS安裝、配置模型以及安裝antigravity+geminiclioauth插2026-04-29
Claude Code配置智譜GLM-4.7 模型完整操作文檔
本文檔詳細(xì)說明如何在 Claude Code中配置 GLM-4.7 模型，實(shí)現(xiàn)基于該模型的代碼生成、修復(fù)、分析等功能,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參2026-04-10
文章介紹了AI編程助手ClaudeCode的安裝、使用和配置方法,包括安裝步驟、簡(jiǎn)單使用案例及注意事項(xiàng)等內(nèi)容,需要的朋友可以參考下2026-06-09
