记忆张量发布并开源记忆原生大模型 MemT 1.0

用 AI 最让人崩溃的瞬间，莫过于你花半天纠正它把任务做对，换个新会话，它转头又踩进同一个坑里。模型做过了事，却没变成它的成长。跑通单次任务之外，它真正缺的是把反馈转化为经验，并在之后主动调用。 这种割裂在 Meta Muse、OpenAI Dots 与 xAI Grok Bot 掀起的私人助理热潮中格外明显：主流的外挂检索最多算翻查静态备忘录，没法把调教过程沉淀为行事默契，而这恰恰是长期助理最核心的门槛。 今天，记忆张量正式发布并开源 MemT 1.0 记忆原生大模型。 它和外挂方案最大的不同，不只是让记忆脱离了外挂模块，内化进底层架构，更在于模型通过训练，自己学会了如何读写、更新和调用记忆，让经验积累本身成为模型能力的一部分。 把记忆，写进模型的骨子里 市面上多数方案喜欢把存聊天记录当成记忆，但存下流水账，应付不了真实世界的动态交互，离真正的助理也还差得远。 MemT 1.0 的技术报告中就提到一场硬核的测试：用户先给出展览原定时间，随后敲定周日正式改期，中间还顺嘴提了一条未被采纳的周一备选方案。此后双方东拉西扯聊了五百多轮、攒下约 6.6 万 token 的聊天记录，期间再未提过展览半个字。 如果靠传统外挂检索，面对跨度这么长的多版本信息，极易把闲聊当定论；但 MemT 1.0 在完全脱离原始文本的「闭卷」状态下，依然准确报出了原定与改期时间，明确指出场地、票价和联系人未变，将周日定论与周一备选分得清清楚楚。 之所以能做到这一点，是因为 MemT 1.0 走了一条「记忆原生」的技术路线。 图｜ Code:https://github.com/MemTensor/MemT-1.0 在架构设计上，MemT 1.0 将模型的脑力拆分为两块： 主干网络（通用能力）： 就像 AI 的出厂设置，装载着它对这个世界的通用认知。 动态记忆状态（独立记忆）： 相当于模型在具体交互轨迹中实时演进的「专属工作状态」，不同用户或任务之间彼此独立，在持续交互中动态吸收新信息与经验，并直接参与后续每一轮生成计算。 面对不断涌入的交互信息，MemT-1.0 无需重新训练整个大模型，在每轮对话结束时，直接通过 token 级别的更新机制刷新记忆状态。至于哪些该留、哪些该改，则交由模型在训练中学出的一套门控机制自主决断。 这就解释了前文那场五百多轮的测试里，模型为什么能自动滤掉闲聊噪音，在日程变更时覆盖过时状态、锁定周日定论。到了后续对话与任务执行中，并行记忆注意力机制又会随时提取这些沉淀下来的状态，直接参与当前计算并引导模型的下一步决策。 当然，这种精准的取舍能力没法天生自带，全靠后天硬练。 团队喂了 340 亿 token 数据，分两步打磨这套机制：先用 200 亿 token 做继续预训练，让模型试着用过去片段预测未来；再用 140 亿 token 做后训练，请来「学霸」教师模型给记忆提取打分，用误差倒逼它改进。 取舍之外，还得装得下。MemT 的记忆状态采用固定体积，持续交互只更新已有矩阵；为了在这个固定体积里装下更多细节，团队引入了 Mixture-of-Storage（MoS）架构：基座 MoE 管计算，MoS 让多位「记忆专家」分头掌管存储空间的读写分配。 这套架构+训练的组合拳，在 11 项系统记忆基准测试（覆盖长期保留、动态更新、个性化理解等维度，历史跨度从 16K 直至百万 token）中交出了一份亮眼的成绩单： 全程闭卷作答的 MemT-1.0-Flash 和 MemT-1.0-Nano 均分分别达到 50.6 和 47.0，分别领先同组最强参数化记忆基线 12.5 分和 8.9 分。 消融实验也直接印证了训练与架构的含金量。如果拿掉后训练这一步，Nano 的均分会从 47.0 直接掉到 36.3；将 MoS 记忆专家从 2 个扩充至 4 个，测试均分则最高提升了 2.7 分。 跑分之外，测试里的两个小细节更能直观说明什么才叫高质量的记忆。 约 16K token 的历史里，用户问起自己的生日，由于从没提供过，模型老实回答不知道，没有瞎编。在一段 3.3 万 token 的对话里，模型需要根据很早之前定下的规矩，来判断两个人谁有资格领工具箱。它准确核对了徽章与登记状态，判定一人合规、一人未登记。 知之为知之，记规则不漏细节，这才是可用 AI 助理的及格线。 自我持续进化，从经验闭环开始 如果把要求拔高一步：过去的踩坑教训，真能改变模型在后续新任务里的做事方式吗？ 为了跑通「任务产生反馈、提炼沉淀经验、再改善后续任务」的连续自我改进闭环，技术团队在真实编程场景里搭建了一套完整训练与执行链路。 第一步，先教会模型怎么把别人的经验「听进去」。 技术团队先从数万条成功轨迹中提炼出上千条可复用经验；再让基座模型去跑任务，一旦遇上命令报错、空返回或重复无效操作的「卡壳点」，就在卡壳处注入匹配经验重跑。 团队从中严格筛出 4.2 万余条「没经验时做错、补上经验后成功跑通」的样本，专门训练 MemT-1.0 Nano 的记忆原生模块：先把经验写入内部记忆状态，过了卡壳点再开启读取，让模型学会调用记忆里的经验去修正后续动作。 在 SWE-bench Verified 的 500 项任务实测中，提前写入经验的 MemT-1.0 Nano 平均成功率从无经验的 66.07% 升至 69.33%，同一道题独立跑三次全成的比例从 54.00% 提到 61.60%，与直接在上下文里塞入「文本经验」的对照组表现相当（成功率 68.87%，三次全成率 61.60%）。 这说明，哪怕对话框里干干净净，模型单靠脑子里的记忆状态，也完全能消化复杂的排错指南。 第二步，放到实战里边干边学，真正拉开差距。 提前塞经验终归是静态的，真正干活时哪能未卜先知？所以在实战模式下，模型先两手空空独立做题；只有当系统发现它报错、空返回，或者连续三次原地打转时，才当场把匹配的排错经验写进它的内部记忆状态里。 这就好比一个程序员自己先写代码，撞了南墙的那一刻，脑子里突然调出了之前踩坑的教训，当场改写思路把 bug 修好；等这单活干完，这次踩坑和修 bug 的过程又会被提炼成新经验存起来，留着以后救场。 结果显示，这种按实时反馈更新记忆状态的打法，把平均成功率推高到了 69.73%，三次全成率提到 62.80%，双双跑赢文本经验组（69.13% 与 61.80%）。 换到覆盖九种编程语言、包含 300 项任务的 SWE-bench Multilingual，同样在执行中按报错反馈动态触发记忆原生机制，Nano 的平均成功率从无经验的 60.00% 提升至 63.56%，三次全成率从 45.33% 跃升至 55.33%（同样优于文本经验组的 63.00% 与 53.67%）。 可以看到，外部系统负责从实战反馈中提炼经验、捕捉卡壳信号，模型则依靠训练出的记忆原生读写能力将经验内化为下一步的行动修正。这套协同机制，也为智能体走向自主持续演进搭起了底层的模型支点。 从外挂补丁到记忆原生，养成系 AI 被 MemT 1.0 拿捏了 要让这套边干边学的经验闭环在真实业务里长年累月转下去，显然绕不开工程成本的账单。 几轮以内的短对话，拉长上下文或挂个向量数据库确实够用；可一旦进入长周期伴随，传统方案越跑越重，推理延迟和显存开销会持续膨胀。而 MemT 1.0 的动态记忆状态体积固定，持续交互只刷新已有矩阵，边际成本几乎拉平。 技术报告显示，双 GPU、单并发、batch size 为 1 的测试条件下，处理 64K token 历史，Nano 相对完整上下文方案有约 1.20 倍的端到端推理速度；历史增加到 128K 和 256K token 时，分别达到约 1.86 倍和 3.99 倍。 在 128K token 历史长度下，恢复单条交互历史所需的持久状态存储，大约是完整上下文 KV cache 的六十六分之一，不计共享模型权重。 把单次调用的算力与存储负担打下来，高频、跨周期的记忆读写才真正具备了大规模工程落地的条件。 拿企业内部的研发场景来说，它首先解决的是团队经验的复用问题。 眼下大多数团队用 AI 写代码，最头疼的是天天带新兵：项目规范和排错套路，工程师每次开新会话都得重教一遍，企业等于在为重复的开销持续买单。 在 MemT 1.0 的体系里，真实的业务反馈会持续刷新外部经验库，模型则把这些团队规范逐渐内化成直觉。老手少操心，AI 少踩老坑，技术投入才能沉淀为带复利的团队资产。 往更长远的应用场景看，无论是 7×24 小时在线的个人数字分身、跨月度跟进慢病管理的医疗顾问，还是伴随孩子数年成长的个性化私教，这些强依赖时间厚度的未来应用，都必须建立在记忆原生的底座之上。 过去三年，大模型圈都在卷各种横向指标，大家拼谁的参数大、跑分高、霸榜多。想要保持领先就只能不断换代搞新模型。而从 Memory³ 的分层研究，到 MemOS 的系统探索，再到今天 MemT 1.0 的底层架构重塑，记忆张量切入了时间这条纵向轴： 怎么让模型在陪伴用户的过程里，越用越聪明。 更妙的是，这是一个养成系 AI：你纠正的每一次错误、给出的每一次反馈，都会通过记忆更新沉淀为它的能力，让下一次的它永远比上一次更顺手、更懂你。 当模型开始在时间里攒下经验，人与 AI 的关系也正在发生变化。出厂参数再强的通用基座，随时可能被更强的模型替代；但一个陪你踩过坑、摸透你所有做事习惯与业务规则的记忆原生模型，却在一天天的磨合里长出了独属于你的壁垒。 这才是我们在 2026 年，真正愿意为之买单的未来。 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。