大模型
arxiv.org ·
@Xiang Yu
Hy-Memory-30B-A3B:面向长期记忆写入的归因强化学习
外部记忆系统将语言模型应用扩展到上下文窗口之外,但其质量关键取决于执行写入路径的模型:决定保留什么、如何精确表示、新证据如何更新持久状态。现有框架通常把通用大模型置于框架特定提示之后,既抬高服务成本,专用写入器也难以直接迁移到另一协议,跨主流记忆框架的统一模型尚属空白。论文提出Hy-Memory-30B-A3B,一个跨Mem0、MemOS与Hy-Memory训练的紧凑长期记忆写入模型:Memory On-Policy Distillation在student生成状态上教授各框架写入协议,Memory RL则通过稠密分块探针、归因式跨块奖励、过度存储控制与chunk级GRPO优化下游可答性,并跨窗口携带策略写入的记忆库。
AI推荐理由 针对外部记忆系统写入路径依赖通用LLM、服务成本高且专用写入器难以跨框架迁移的问题,提出紧凑的长期记忆写入模型Hy-Memory-30B-A3B,跨Mem0、MemOS与Hy-Memory训练。方法包括Memory On-Policy Distillation在student生成状态上学习各框架写入协议,以及Memory RL用稠密分块探针、归因式跨块奖励、过度存储控制与chunk级GRPO优化下游可答性。对记忆系统落地有实用价值,但摘要未给出与通用LLM写入器的完整对比数据。
70
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。