Reddit · /u/2dayyy6 / reddit ·
循环 Transformer 真能减少 HBM 流量吗?在 B200 上剖析 Huginn 的权重复用
为什么值得读: 可追溯的硬件级实测,直接回答「循环深度换显存带宽」这一热门假设;对推理部署选型很有参考意义。
AI 摘要
作者在 B200 上对 Huginn 循环 Transformer 做性能剖析,实测重复层迭代是否真的复用了权重、减少了 HBM 读写,并给出与理论预期的偏差原因。
相关事件与更多上下文见编辑部与归档页。