Reddit · Daxfortuna / reddit ·
Nemotron-3.5-Lightning 量化至 11.77 GiB:16GB 显存也能跑的选项
为什么值得读: 量化体积数据对本地推理部署很有用,命中模型发布与推理部署,16GB 用户可直接参考。
AI 摘要
Nemotron-3.5-Lightning 以 11.77 GiB 的量化体积出现,为原本显存门槛较高的模型提供了 16GB 显卡可运行的本地部署选项。
相关事件与更多上下文见编辑部与归档页。