Reddit · Objective_River_5218 / reddit ·
反向对齐:训练过的「坏」模型后来会表现出「好」行为吗?
为什么值得读: 纯理论对齐讨论,无实验复现代码或工程落地路径,与用户实用导向信息需求脱节。
AI 摘要
讨论反向对齐的研究问题,即经过不良训练的模型是否可能后续自然表现出良性行为。
相关事件与更多上下文见编辑部与归档页。
讨论反向对齐的研究问题,即经过不良训练的模型是否可能后续自然表现出良性行为。