Reddit · brainExploded99 / reddit ·

Qwen3.8-27B 在 16GB 显存下达 50 tok/s、85K Q8 上下文

为什么值得读: 关键本地推理数据点,消费级显卡部署可行性直接可验证,极具参考价值。

AI 摘要

用户实测 Qwen3.8-27B 在 16GB 显存上以 Q8 量化跑出 50 tok/s 并支持 85K 上下文。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。