Reddit · TrifleHopeful5418 / reddit ·

Qwen3.8-Flash-Next(104GB MoE)在 Strix Halo + RTX 3090 Ti eGPU 上跑出 22→84 tok/s

为什么值得读: 极高价值的一手推理部署实测:硬件组合、吞吐、质量对照全都有数据,直接指导本地模型部署选型。

AI 摘要

实测:104GB MoE 模型在掌机级平台 + eGPU 组合上提速近 4 倍,且与双 3090 vLLM 性能仅差一个 HumanEval+ 题,耗时只有 0.4 倍。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。