Reddit · zipzak / reddit ·
Qwen Flash Next:5090 + 192GB 内存、Windows 环境下达 137 tok/s 生成、3497 tok/s 预填充,512K 上下文
为什么值得读: 本地推理部署的一手实测数据,直接命中模型推理实践方向。
AI 摘要
作者在 RTX 5090、192GB 内存的 Windows 机器上实测 Qwen Flash Next,对比 Strata 与 Infernix,取得 137 tok/s 生成与 3497 tok/s 预填充、512K 上下文表现。
相关事件与更多上下文见编辑部与归档页。