Reddit · tabletuser_blogspot / reddit ·

GLM-4.7 量化对比:MXFP4 vs Q4_K_M vs Q4_K_XL(Radeon 6800H iGPU 680M)

为什么值得读: 直接的量化格式与推理性能基准数据,对本地部署选型有实操价值,命中推理部署关注点,给较高分。

AI 摘要

作者在 Radeon 6800H 核显(680M)上对 GLM-4.7 的 MXFP4、Q4_K_M、Q4_K_XL 三种量化格式做基准对比,给出性能与质量取舍数据。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。