Reddit · SnooPredictions515 / reddit ·

在 64GB Mac 上跑 95.5GiB 的 Qwen3.8-Flash-Next:41–52 tok/s,比 llama.cpp 快 1.76 倍

为什么值得读: 高质量本地推理部署成果,指标具体、有开源实现,直接命中推理实践关注点,属高分项。

AI 摘要

Slipstream 发布新方案,在 64GB 内存 Mac 上以 41–52 tok/s 运行 95.5GiB 的 Qwen3.8-Flash-Next,支持 130k 上下文扩展,并附带 Swift 版本。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。