最新资讯
www.infoq.com GitLab 19.5 将 Agentic 开发纳入 DevOps 平台的治理体系 dev.to 在信任 AI 生成的测试用例前,如何逐条复核 unite.ai Franklin Templeton 构建 AI 研究工作流以揭示风险 techxplore.com AI 助力寻找更优的钛合金 3D 打印工艺参数 engadget.com Perplexity 推出“teammates”日常工作任务 AI agent computerworld.com 别提数据中心:OpenAI 改称“compute campuses” theguardian.com 俄美试图阻止就自主武器制定具有约束力的规则 bloomberg.com Nvidia 加强东南亚芯片追踪以打击走私 thestack.technology 模型路由需求升温,Agent Router 推出开源替代方案 www.youtube.com Google DeepMind 的 Philipp Schmid:AI 同事需要具备的七个要素 unite.ai Cashfree 为 AI Agent 的托管结账加入 WebMCP 工具 dev.to 我们在 DolphinBench 上测试记忆检索:纯关键词搜索暴露了自身回归
多元动态
登录 注册
大模型 arxiv.org · @Hacker News

“As a Language Model”:Chat Template 切换 LLM 自我指涉语气,激活引导可复现该效应

原文 我的收藏

该 arXiv 预印本(2026 年 8 月 9 日提交)研究 LLM 自我报告语气的成因。作者发现 chat template 起开关作用:存在时提升“我只是个 AI”式免责声明语气、压低“我感觉”式体验语气,反之亦然,该现象在 8 个不超过 9B 参数的开源 instruct 模型上一致。在 3 个模型的激活空间中,作者找到一个可操控该行为的方向:移除该方向降低免责声明语气,加入则提升,而同等大小的随机方向影响很小;向无 chat template 的 instruct 模型加入该方向后,其表现如同存在模板。作者据此提醒,研究模型自我报告或内省时需控制 chat template 这一混杂因素,模型对自身的描述不应被字面理解。

AI推荐理由 arXiv 预印本,作者 Jędrzej Maczan,摘要给出可验证的实验设计:在 8 个不超过 9B 参数的开源 instruct 模型上对比有无 chat template 时自我指涉语气(免责声明式 vs 体验式)的变化,并在 3 个模型的激活空间中找到可操控该行为的方向,随机同尺度方向效果微弱。新信息在于把 chat template 识别为影响模型自我报告的混杂变量,并给出可用于控制的激活方向,对 AI 安全、模型内省与自我知识研究有直接方法学价值。局限:仅预印本、未同行评审,模型规模限于 9B 以内,摘要未给出具体效应量,结论需复现验证。

78

正文

"As a Language Model": Chat Template Switches LLM Self-Referential Voice 👉 100 HN Points: https://news.ycombinator.com/item?id=49865343 原文地址: https://arxiv.org/abs/2609.25021

来源报道 · 4 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容