Reddit · Blindax / reddit ·
双卡 5090+3090 实测:Qwen3.8 27B 与 Flash-Next 在 6 万–16 万上下文下的 llama.cpp 表现
为什么值得读: 长上下文下的本地推理部署实测,硬件配置、框架、场景都明确可复现,对自建推理环境的人有直接参考价值。
AI 摘要
用户用 RTX 5090 搭配 3090 搭建本地推理环境,实测 Qwen3.8 27B 与 Flash-Next 在 6 万到 16 万 token 长上下文下的速度与显存占用。
相关事件与更多上下文见编辑部与归档页。