Reddit · DjCanalex / reddit ·
双 3090 实测:Qwen 3.6 27B 从 400 提升到 1600 pp t/s(生成速度略降)
为什么值得读: 直接命中推理部署与本地大模型实践,硬件调优数据对自建推理环境有直接参考价值。
AI 摘要
LocalLLaMA 用户分享双 RTX 3090 配置下 Qwen 3.6 27B 的推理优化经验,prefill 吞吐从 400 提升到 1600 pp t/s,生成 tps 略有下降。
相关事件与更多上下文见编辑部与归档页。