Reddit · FantasticNature7590 / reddit ·

Qwen3.8-Flash-Next 在 llama.cpp 的实测:纯 CPU 到 96GB 显存,8.5~109 tok/s

为什么值得读: 一手推理性能实测,直接命中推理部署关注域,数据可复现,对硬件选型与部署配置极具参考价值。

AI 摘要

用户在 RTX 6000 PRO 上实测 Qwen3.8-Flash-Next:覆盖纯 CPU 到 96GB 显存多档配置,记录吞吐、上下文与参数表现。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。