Reddit · alfredr / reddit ·

32GB M4 MacBook Air 跑 Qwen3.8-Flash-Next(Q4 量化)达 8-22 token/s

为什么值得读: 命中本地推理部署实践,给出具体机型、量化等级与吞吐数据,对评估 Mac 端侧跑模型的可行性有直接参考价值。

AI 摘要

用户实测在 32GB 内存的 M4 MacBook Air 上以 Q4 量化运行 Qwen3.8-Flash-Next,生成速度达到 8-22 tokens/s,属苹果芯片端侧推理性能实测。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。