Reddit · Mrinohk / reddit ·
Those in the 1000+ prefill and 100+ decode range on Qwen3.6 35B at Q4, what hardware are you running?
为什么值得读: 推理部署社区实战数据征集,对自建硬件选型有参考,但尚未有结论。
AI 摘要
用户在 Reddit 征集在 Qwen3.6 35B Q4 量化下达到 1000+ prefill/100+ decode 速度的硬件配置。
相关事件与更多上下文见编辑部与归档页。