大模型
arxiv.org ·
@Hacker News
“As a Language Model”:Chat Template 切换 LLM 自我指涉语气,激活引导可复现该效应
该 arXiv 预印本(2026 年 8 月 9 日提交)研究 LLM 自我报告语气的成因。作者发现 chat template 起开关作用:存在时提升“我只是个 AI”式免责声明语气、压低“我感觉”式体验语气,反之亦然,该现象在 8 个不超过 9B 参数的开源 instruct 模型上一致。在 3 个模型的激活空间中,作者找到一个可操控该行为的方向:移除该方向降低免责声明语气,加入则提升,而同等大小的随机方向影响很小;向无 chat template 的 instruct 模型加入该方向后,其表现如同存在模板。作者据此提醒,研究模型自我报告或内省时需控制 chat template 这一混杂因素,模型对自身的描述不应被字面理解。
AI推荐理由 arXiv 预印本,作者 Jędrzej Maczan,摘要给出可验证的实验设计:在 8 个不超过 9B 参数的开源 instruct 模型上对比有无 chat template 时自我指涉语气(免责声明式 vs 体验式)的变化,并在 3 个模型的激活空间中找到可操控该行为的方向,随机同尺度方向效果微弱。新信息在于把 chat template 识别为影响模型自我报告的混杂变量,并给出可用于控制的激活方向,对 AI 安全、模型内省与自我知识研究有直接方法学价值。局限:仅预印本、未同行评审,模型规模限于 9B 以内,摘要未给出具体效应量,结论需复现验证。
78
正文
"As a Language Model": Chat Template Switches LLM Self-Referential Voice 👉 100 HN Points: https://news.ycombinator.com/item?id=49865343 原文地址: https://arxiv.org/abs/2609.25021