超越浅层对齐：后训练方法如何决定拒绝电路与操控鲁棒性

该研究比较了监督微调、推理增强微调等不同后训练方法对语言模型拒绝机制的影响。研究发现，不同训练方法会在模型内部形成不同的拒绝电路，并影响模型对对抗性操控的鲁棒性。这为理解模型安全性和对齐技术提供了新的视角。

AI推荐理由 这表明后训练方法的选择会直接影响模型内部安全机制的结构与抗操纵能力，而非仅影响任务性能。对从业者而言，评估对齐技术时需关注其可审计性与鲁棒性，这对模型安全治理和对抗性防御具有实际意义。