Reddit · Prudent_Appearance71 / reddit ·
双路 CMP 170HX 64GB 跑 GLM-5.3-Flash:384K 上下文约 90 tok/s(EXL3,HBM 优先)并对比 Qwen3.8
为什么值得读: 模型 + 推理部署 + 量化实测数据齐全,含具体硬件与吞吐指标,可直接借鉴。
AI 摘要
用户分享双 CMP 170HX 64GB 配置下的实测结果:GLM-5.3-Flash 在 384K 上下文下约 90 tok/s,采用 EXL3 量化并以 HBM 为主的部署方案,另附与 Qwen3.8 的对比。
相关事件与更多上下文见编辑部与归档页。