Reddit · bring_back_the_v10s / reddit ·
在 RTX 3060 + 5060 Ti 上成功跑起 Qwen 3.8 27B EXL3
为什么值得读: 本地推理部署的实战配置,量化格式、显存与吞吐经验可直接复用,属于你的高优先级兴趣点。
AI 摘要
用户分享在中端双卡消费级显卡上以 EXL3 量化运行 Qwen 3.8 27B 的成功配置,含显存占用、速度与踩坑记录。
相关事件与更多上下文见编辑部与归档页。