Reddit · SnooPredictions515 / reddit ·

95.5 GiB 的 Qwen3.8-Flash-Next 在 64GB Mac 上跑到约 27 tok/s,附 checkpoint 与 fork

为什么值得读: 本地推理实操分享,含具体硬件、量化/调度细节与可复现资源,对本地部署实践有直接参考价值。

AI 摘要

用户分享在 64GB 内存 Mac 上运行 95.5 GiB 的 Qwen3.8-Flash-Next 模型的实操经验,速度约 27 tok/s,并提供模型检查点与代码分支。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。