Reddit · Daxfortuna / reddit ·

Nemotron-3.5-Lightning 量化至 11.77 GiB:16GB 显存也能跑的选项

为什么值得读: 量化体积数据对本地推理部署很有用,命中模型发布与推理部署,16GB 用户可直接参考。

AI 摘要

Nemotron-3.5-Lightning 以 11.77 GiB 的量化体积出现,为原本显存门槛较高的模型提供了 16GB 显卡可运行的本地部署选项。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。