Reddit · Distinct-Pie2389 / reddit ·
注意:Strata 0.1.45 之前版本若客户端未设置采样参数,实际会跑成贪心解码
为什么值得读: 典型的推理工具坑点提醒,能解释很多“输出异常”现象,属于排查本地推理问题时值得记住的具体细节。
AI 摘要
作者提醒 Strata 在 0.1.45 之前的版本存在默认行为问题:客户端不显式设置采样参数时,推理会退化为贪心解码,导致输出重复、多样性下降。
相关事件与更多上下文见编辑部与归档页。