Reddit · xenovatech / reddit ·
LFM2.5 230M 模型在浏览器中以 1400 tok/s 运行:自定义 WebGPU 内核
为什么值得读: 直接命中推理部署:WebGPU 浏览器推理 + 1400 tok/s 性能数据,对边缘部署和 Web 端推理有启发价值。
AI 摘要
作者使用自定义 WebGPU 内核在浏览器中运行 LFM2.5 230M 模型,达到了 1400 tokens/秒的推理速度。
相关事件与更多上下文见编辑部与归档页。