最新资讯
dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露 dev.to 你的 Agent Harness 应具备的 17 项能力 dev.to 离线 AI 记忆中 0.8 余弦阈值为何失效 dev.to Kimi K3.1 Pro 开放权重:自托管 2.8T 模型前的开发者清单 dev.to 如何通过工具调用引导模型以提升 Harness 质量 dev.to AI Agent 审计轨迹不等于对话记录 dev.to 精简 MCP server 工具数量:更少工具、更小影响面,双重收益 dev.to 为什么 git checkout 无法撤销 AI 编码 agent 的改动? wechat AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航 dev.to 让模型改写文档前,先量化事实保真度 dev.to 回放 153 个 Claude Code 与 Codex 会话,审计 Agent 的生产影响范围
多元动态
登录 注册
大模型 arxiv.org · @Betelbuddy

Infinite-Parameter LLM:从实时数据生成并适配权重

原文 我的收藏

该 arXiv 预印本提出 Infinite-Parameter LLM 架构,借鉴 MoE 思路,用紧凑超网络将运行时提供的数据转化为对共享基网络的低秩调制,使前馈权重由实时数据生成而非存于固定参数库。与以往只读一次上下文即冻结的权重生成器不同,该方法对生成器隐码维护贝叶斯信念并在线更新,有效权重随会话推进重新推导,存储占用固定而可编译权重近乎无限。作者称把运行时知识写入权重而非提示词可摊薄计算、释放上下文窗口、跨轮次持久并可能优于 in-context 使用,并给出针对 in-context learning 与检索的评测协议。目前仅见摘要与协议,尚无实验结果。

AI推荐理由 arXiv 预印本,作者提出 Infinite-Parameter LLM 架构:用紧凑超网络把运行时数据转成对共享基网络的低秩调制,使前馈权重由实时数据生成而非固定参数库;并对生成器隐码维护贝叶斯信念并在线更新,使有效权重随会话演化。论文给出与 in-context learning 和检索对比的评测协议。局限是仅有摘要与协议描述,尚无实验结果或代码,实际效果未验证。

72

正文

Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data 👉 101 HN Points: https://news.ycombinator.com/item?id=49743483 原文地址: https://arxiv.org/abs/2609.18842

来源报道 · 4 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容