Reddit · rage_81 / reddit ·
我用 41.4 万参数的 Transformer 训练 boids 群集飞行,并检验探针读到的规则是否真被使用
为什么值得读: 可解释性方法论有趣且适合动手复现,但属于偏学术的小规模实验,落地价值中等。
AI 摘要
作者用极小 Transformer 让 boids 群体协同飞行,再用可解释性探针抽取模型内部规则,验证探针读出的规则是否就是模型实际使用的规则。
相关事件与更多上下文见编辑部与归档页。