Reddit · hauhau901 / reddit ·

Gemma4 26B-A4B 与 31B-QAT 版本发布:MTP 带来 35% 到 53% 加速

为什么值得读: 命中本地模型、推理加速和模型发布方向,适合关注可部署模型和性能优化;但需核验模型来源和安全性。

AI 摘要

LocalLLaMA 社区发布 Gemma4 相关量化/非审查平衡版本,并称通过 MTP 实现明显速度提升。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。