Reddit · Sadge404 / reddit ·
大家都在用什么办法把 RT 核心用于推理加速?
为什么值得读: 属于推理优化的一线讨论,思路上有参考价值;但目前是开放问答,尚无确定结论,分数略收敛。
AI 摘要
社区讨论如何利用 GPU 的 RT 核心(光线追踪单元)参与推理计算,涉及自定义 kernel、混合计算切分与实际加速比等经验。
相关事件与更多上下文见编辑部与归档页。
社区讨论如何利用 GPU 的 RT 核心(光线追踪单元)参与推理计算,涉及自定义 kernel、混合计算切分与实际加速比等经验。