Reddit · rmonsurate / reddit ·

发布两个后量化训练模型并配微调草稿头:Victoria(REAP+QAD)体积缩小 44%,Maple 追加加拿大语料微调

为什么值得读: 直接关联量化、投机解码与推理部署优化,属于可实际复用的模型压缩实践。

AI 摘要

作者发布 Victoria 与 Maple 两个后量化训练模型,结合 REAP 与 QAD 方法并微调草稿头,实现约 44% 的体积压缩,同时保持相近的平均表现。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。