它是什么
Qwen2.5-7B 是这一代 7B 系列的基座权重:只做过预训练、没有指令微调,官方模型卡自己写着「不建议用基座模型对话」。它该被当成微调的起点,而不是一个能直接用的助手。来源:https://huggingface.co/Qwen/Qwen2.5-7Bhttps://huggingface.co/Qwen/Qwen2.5-7B
怎么用起来
拉 transformers 格式的权重做 SFT / LoRA;只想先跑通推理链路,就拿社区转好的 GGUF 量化版(Q4_K_M 约 6GB 显存)。要对话请换指令微调版。来源:https://huggingface.co/Qwen/Qwen2.5-7Bhttps://huggingface.co/Qwen/Qwen2.5-7B
以上坑来自 https://huggingface.co/Qwen/Qwen2.5-7Bhttps://huggingface.co/Qwen/Qwen2.5-7B 与官方文档。
来源与署名
Mentioned from:https://huggingface.co/Qwen/Qwen2.5-7Bhttps://huggingface.co/Qwen/Qwen2.5-7B · 原作者 阿里云通义千问(Qwen)(Apache-2.0)。