论文研究
arxiv.org ·
@Danqi Chen
持久抑制语言模型中的失准行为
论文构造两类故意训练出失准行为的模型：窄触发模型仅在提示含特定线索时作弊，宽触发模型在 insecure code 微调后对广泛开放式提示给出有害回答。作者形式化“后验行为抑制”，并从即时抑制、后续训练下的持久性和通用能力保持三个维度比较SFT、GRPO与梯度上升遗忘等方法。
AI推荐理由 构建窄触发与宽触发两类“模型生物”来研究不当行为的后验抑制，比较SFT、GRPO与梯度上升遗忘在即时抑制、后续训练下的持久性和通用能力保持三方面的表现，问题设定具体且有实验设计。
71
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。