MemT 1.0 发布:以“记忆原生”架构重塑养成系 AI
2026/10/20 11:57阅读量 3
记忆张量(MemTensor)正式发布并开源 MemT 1.0,这是一种将记忆能力内化于模型底层的“记忆原生”大模型。通过动态记忆状态与 MoS 架构,该模型能在长对话中精准保留关键信息并自主更新经验,无需依赖外挂检索。在编程任务实测中,具备实时反馈学习能力的 MemT-1.0 Nano 显著提升了成功率,且推理成本远低于传统上下文方案,为长期伴随型 AI 助理提供了可行的技术路径。
事件概述
记忆张量(MemTensor)正式推出并开源了 MemT 1.0 记忆原生大模型。与传统依赖外挂向量数据库或简单聊天记录存储的方案不同,MemT 1.0 将记忆机制深度整合进模型底层架构,使模型具备自主读写、更新和调用记忆的能力,旨在解决当前 AI 助手缺乏长期记忆和经验沉淀的问题。
核心技术与性能
- 架构设计:采用“主干网络 + 动态记忆状态”的双轨设计。主干网络负责通用认知,独立且固定体积的动态记忆状态则随交互实时演进。通过 token 级别的门控机制,模型能自动过滤闲聊噪音,保留关键事实。
- MoS 架构:引入 Mixture-of-Storage (MoS) 结构,由多位“记忆专家”分管存储空间读写,在有限内存容量下提升信息密度。
- 训练策略:使用 340 亿 token 数据进行训练,包括 200 亿 token 的继续预训练和 140 亿 token 的后训练(利用教师模型打分优化记忆提取精度)。
- 基准测试表现:在覆盖长期保留、动态更新等维度的 11 项系统记忆基准测试中,闭卷作答的 MemT-1.0-Flash 和 Nano 均分分别为 50.6 和 47.0,领先同组最强参数化记忆基线 12.5 分和 8.9 分。消融实验显示,移除后训练会导致 Nano 分数大幅下跌至 36.3,验证了训练流程的关键性。
自我进化与实战应用
- 经验闭环机制:团队构建了从“任务反馈”到“经验沉淀”再到“行为修正”的闭环。在 SWE-bench Verified 的 500 项编程任务中,提前写入经验的 MemT-1.0 Nano 平均成功率从 66.07% 提升至 69.33%。
- 实时动态学习:在实战模式下,当模型遇到报错或卡壳时,系统即时将排错经验写入其内部记忆状态。这种动态触发机制使平均成功率进一步升至 69.73%,三次全成率达 62.80%,优于静态文本经验对照组。
- 多语言扩展:在包含 300 项任务的 SWE-bench Multilingual 测试中,动态记忆机制同样有效,平均成功率从 60.00% 提升至 63.56%。
工程优势与应用前景
- 成本与效率:由于记忆状态体积固定,MemT 1.0 避免了长上下文带来的显存和延迟膨胀。在双 GPU 单并发测试中,处理 256K token 历史时,Nano 模型的端到端推理速度约为完整上下文方案的 3.99 倍;持久状态存储需求仅为 KV cache 的约 1/66。
- 应用场景:该技术降低了高频、跨周期交互的工程门槛,适用于企业内部研发经验复用、7×24小时个人数字分身、医疗顾问及个性化教育等需要长期伴随和习惯磨合的场景。
结论
MemT 1.0 标志着 AI 发展从横向参数竞赛转向纵向时间轴积累。通过让模型在互动中“越用越聪明”,它试图建立基于用户习惯和业务规则的专属壁垒,为养成系 AI 的下半场竞争提供了新的基础设施。
