Reddit · Jazzlike_Bee_3129 / reddit ·
求助:Ornith 35B能否在9060XT 16GB+32GB内存上通过显存卸载运行?
为什么值得读: 推理部署的实际问题,对低显存场景有参考价值,但为社区求助帖
AI 摘要
社区用户询问在16GB显存+32GB系统内存配置下通过RAM offload运行35B模型的可行性。
相关事件与更多上下文见编辑部与归档页。
社区用户询问在16GB显存+32GB系统内存配置下通过RAM offload运行35B模型的可行性。