最新资讯
dev.to 让模型改写文档前,先量化事实保真度 dev.to 回放 153 个 Claude Code 与 Codex 会话,审计 Agent 的生产影响范围 dev.to 银行 77 意图分类最便宜 LLM:GPT-6.1 Terra 每次成功任务 $0.000727 theinformation.com Chesky的副业:Airbnb向CEO新设AI实验室出售IP theverge.com OpenAI 宣布数据中心项目不再与公职人员签署保密协议 dev.to NVIDIA 发布四个开放 Cosmos 3 仿真模型 dev.to 真实 MCP 客户端击穿我们服务器的五种方式 theverge.com Airbnb 正在开发 AI 旅行 agent,计划 2027 年上半年推出 wechat 这可能是美国AI最魔幻的一天。 nytimes.com 美众议院共和党领袖要求 Nvidia 黄仁勋闭门简报 pub.towardsai.net 忘掉我:为记忆而设计的系统中的删除难题 marktechpost.com Google 发布 Gemini Omni 1.2 Flash:15 秒视频,每秒 0.07 美元
多元动态
登录 注册
论文研究 arxiv.org · @Vinay Kumar Sankarapu

每次消融都是一个剂量:反权重与“自修复”的表象

原文 我的收藏

论文针对语言模型中被反复观察到的“自修复”现象提出统一解释:消融前已存在增益,任何对因果重要组件的干预都可视为坐标轴 λ 上的一个点,传统消融方法只是未校准的点。作者表明细粒度单元 r 的因果修复响应服从仿射律 E_r(λ)=own_r+γ_rλ,斜率 γ_r 是固定系数,其符号决定该单元是抵消还是强化被移除的信号。

AI推荐理由 对语言模型“自修复”现象提出统一解释:消融前已存在增益,任何对因果重要组件的干预可视为坐标轴上的点,细粒度单元的因果修复响应服从仿射律 E_r(λ)=own_r+γ_rλ,斜率符号决定该单元抵消还是强化被移除信号。属于可解释性与因果分析方向的具体机制假设,但摘要未给出完整实验规模与结论。

66

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容