它是什么
Qwen2.5-VL 7B 是阿里云通义千问的 7B 级多模态模型。多模态的显存开销除权重外还要留给图像编码器与视觉 token,所以 Qwen2.5-VL 7B 比同参数量的纯文本模型更吃显存。来源:https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL
怎么用起来
Qwen2.5-VL 7B 用支持 VL 的推理框架(如 vLLM / LM Studio 的多模态版本)本地跑,显存 12GB 起,24GB 更舒适。来源:https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL
以上坑来自 https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL 与官方文档。
来源与署名
Mentioned from:https://github.com/QwenLM/Qwen2.5-VLhttps://github.com/QwenLM/Qwen2.5-VL · 原作者 阿里云通义千问(Qwen)(Apache-2.0)。