Reddit · FantasticNature7590 / reddit ·
3 天实测:llama.cpp 中 DFlash 2 在 Qwen 3.8 27B 上对比各类投机解码,最高提速 8 倍
为什么值得读: 直接命中推理部署与性能优化,有具体数字与编程场景实测,工程价值很高。
AI 摘要
作者在 llama.cpp PR 版中对 DFlash 2 投机解码做系统评测:100 个真实编程提示 2.26x,叠加 n-gram drafter 达 4.68x,特定场景最高 8x。
相关事件与更多上下文见编辑部与归档页。