Reddit · zipzak / reddit ·

Qwen Flash Next:5090 + 192GB 内存、Windows 环境下达 137 tok/s 生成、3497 tok/s 预填充,512K 上下文

为什么值得读: 本地推理部署的一手实测数据,直接命中模型推理实践方向。

AI 摘要

作者在 RTX 5090、192GB 内存的 Windows 机器上实测 Qwen Flash Next,对比 Strata 与 Infernix,取得 137 tok/s 生成与 3497 tok/s 预填充、512K 上下文表现。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。