Reddit · Adorable-Cost-3249 / reddit ·
单张 RTX 3090 跑 Qwen3.8-27B Q4_K_M + OpenCode:吞吐、四个编码任务与一次推理预算失败
为什么值得读: 本地推理部署与 AI Coding 实测结合,含失败复现细节,对评估本地编码模型可用性很实用。
AI 摘要
作者在单张 RTX 3090 上以 Q4_K_M 量化运行 Qwen3.8-27B,配合 OpenCode 完成四个编码任务,记录吞吐与一次因推理预算耗尽导致的失败案例。
相关事件与更多上下文见编辑部与归档页。