Reddit · Weird-Asparagus4136 / reddit ·
chessformer_lens:切除 1 个注意力头,国际象棋模型丢失王后弃子能力
为什么值得读: 模型可解释性实验,对理解注意力机制有启发,实践距离中等。
AI 摘要
可解释性 demo:对国际象棋 Transformer 128 个注意力头中的一个做消融,模型即失去 Morphy 王后弃子能力,展示头级功能定位。
相关事件与更多上下文见编辑部与归档页。