Reddit · Anony6666 / reddit ·

不动权重就解除 LLM 审查:注入约 18MB 的微型 KV-cache 库,用完即卸

为什么值得读: 属于本地模型行为调控的实用技术,KV-cache 注入思路对推理侧定制化有参考价值;话题敏感,按技术含量给分。

AI 摘要

作者提出不改动模型权重,仅通过注入一小段训练好的 KV-cache 库(约 18MB)来调整模型行为输出,并支持随时卸载恢复。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。