它是什么
Llama 3.1 8B Instruct 是"本地跑得动"和"够用"之间最常见的那个平衡点:8B 参数量、支持 128K 上下文,社区量化版本(GGUF)齐全,几乎每个本地推理工具都支持。来源:https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models
怎么用起来
本地跑:装一个推理工具(Ollama / LM Studio / llama.cpp),拉 Q4_K_M 量化版本即可。它不是一个网站,而是一份权重——需要在你自己的机器上运行。来源:https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models
以上坑来自 https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models 与官方文档。
来源与署名
Mentioned from:https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models · 原作者 Meta(Llama 3.1 Community License)。