Reddit · /u/JeanMichelRanu / reddit ·

零训练把 EmbeddingGemma-2(577M)从 MAEB 音频榜第 26 名推到第 1:用 PCA 降维的 Conformer 中间层填满 256 维零空间

为什么值得读: 零训练提升 embedding 表现的实用技巧,与做检索/聚类时的向量质量优化思路相通(如项目里的 bge-m3 使用),值得留意。

AI 摘要

作者不改动任何权重,仅利用模型 256 维表征中未被利用的零空间,填入经 PCA 降维的中间 Conformer 层特征,使 EmbeddingGemma-2 在 MAEB 音频基准上从第 26 名升至榜首。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。