跳到主要內容
參數量 7BApache-2.0參考估算

Qwen2.5-VL 7B

能看图的多模态模型,7B 级,12GB 显存起步。

官方來源:https://github.com/QwenLM/Qwen2.5-VL阿里云通义千问(Qwen)你將離開 AIWorksWell,前往 阿里云通义千问(Qwen)。該網站不受我們控制,其內容、隱私與安全由其自行負責,請自行判斷。

需要什麼硬體

參考估算
參數量
7B
架構
稠密
上下文
128K
授權條款
Apache-2.0
最低顯存
12G
內存(純 CPU)
16G
下載體積
—G

按量化檔看門檻

同一模型選不同量化檔,體積與門檻差別很大——這是本地模型最常被誤判的一件事。

推薦量化檔體積最低顯存質量
F1628G32G原版精度
Q8_014.8G17G幾乎無損
Q6_K11.5G13G接近無損
Q5_K_M9.9G11G很好
Q4_K_M★8.5G10G性價比最高
Q3_K_M7G8G有可感知損失
Q2_K5.3G6.5G明顯降智,僅應急

口徑:显存为 Q4_K_M 档参考

你的設備

簡明介紹每一個能自己跑的模型:參數量、需要的硬體、能跑在什麼檔位。我們不排名、不寫價格——只告訴你它要多少機器。

在個人中心填一次設備檔位,這裡就會顯示"你這臺能不能跑"。去填設備·不想登錄?直接試算一次

安裝提示詞

複製它,貼給你正在用的 AI(Claude Code、Codex、ChatGPT…),它會替你裝好並驗證。

43 行
我需要你帮我在我的机器上安装并运行一个软件。

【软件信息】
名称:Qwen2.5-VL 7B
用途:能看图的多模态模型,7B 级,12GB 显存起步。
官方来源:https://github.com/QwenLM/Qwen2.5-VL
许可:Apache-2.0
滑鼠滾輪在框內上下查看,複製到的仍是完整提示詞1193 字

複製 → 貼給你的 AI → 它替你裝好

這條講什麼

它是什么

Qwen2.5-VL 7B 是阿里云通义千问的 7B 级多模态模型。多模态的显存开销除权重外还要留给图像编码器与视觉 token,所以 Qwen2.5-VL 7B 比同参数量的纯文本模型更吃显存。来源:https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL

怎么用起来

Qwen2.5-VL 7B 用支持 VL 的推理框架(如 vLLM / LM Studio 的多模态版本)本地跑,显存 12GB 起,24GB 更舒适。来源:https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL

以上坑来自 https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL 与官方文档。

来源与署名

Mentioned from:https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL · 原作者 阿里云通义千问(Qwen)(Apache-2.0)。