Reddit · Extension-Bid-639 / reddit ·
Qwen3.8-Flash-Next 在 2x3090+DDR4 部署优化:解码提速至 37-41 t/s
为什么值得读: 直接命中本地推理部署与量化优化:有明确前后数字、硬件配置和可复现分支,实践价值高,强烈推荐。
AI 摘要
LocalLLaMA 实测续篇:用 UD-Q4_K_XL 量化 + expert cache + MTP,在 2x3090+DDR4 平台将解码速度从 25-29 提升到 37-41 t/s,并给出可自行构建的分支。
相关事件与更多上下文见编辑部与归档页。