首页 >> 综合 > 快讯 >

记忆张量推出 MemT 1.0 记忆原生大模型,长历史推理提速近 4 倍,存储压缩最高达 130 倍

2026-10-22 17:03:22 来源:网易 编辑:郎翠庆 

记忆张量正式发布 MemT 1.0 记忆原生大模型,这款模型把长效记忆做成模型内生能力,在 256K 超长历史对话场景下,端到端推理速度相比传统完整上下文方案提速接近 4 倍,持久化记忆存储最高实现 130 倍压缩,大幅降低超长文本推理的算力开销与硬件占用,同时在 11 项主流记忆评测榜单里拿下参数化记忆赛道前两名,兼顾长文本推理效率、记忆留存能力与通用对话能力,非常适合智能 Agent、长期多轮对话、自动化研发等需要持续留存历史信息的业务场景。MemT 1.0 跳出了传统大模型依赖上下文窗口加载全部历史的技术路线,把可更新、可持久保存的记忆状态嵌入模型前向计算流程,依靠 Gated DeltaNet-2 逐 token 稳定更新机制、Mixture-of-Storage 混合存储架构,把海量历史内容压缩成轻量化记忆向量,不用反复加载全部历史文本,既加快推理速度,又极大减少存储占用,下面从模型版本配置、核心技术架构、实测性能数据、部署落地步骤、业务应用场景五个板块做完整深度拆解。

一、MemT 1.0 全系模型版本配置清单

本次发布的 MemT 1.0 包含两款开源模型,硬件适配范围覆盖轻量测试与大规模企业部署,详细参数如下:

表格

模型型号总参数量激活参数量动态记忆容量适用场景
MemT-1.0-Nano36B3B10M单 GPU 调试、轻量化 Agent、个人项目测试
MemT-1.0-Flash288B17B336M企业级长历史任务、多轮复杂智能体、批量业务推理

两款模型均采用两阶段训练方案,依托 34B 高质量训练数据完成持续预训练与对齐微调,在强化长效记忆能力的同时,完整保留通用问答、代码生成、逻辑推理等基础能力,不会出现记忆增强后通用能力下降的问题。

二、三大核心技术架构,实现提速 + 高压缩的核心支撑

  1. Gated DeltaNet-2 逐 token 记忆更新机制 传统参数化记忆容易出现记忆漂移、更新不稳定的问题,MemT 1.0 搭载 GDN-2 门控增量网络,实现逐轮逐 token 的精细化记忆更新。模型可以自主完成信息写入、增量修改、选择性遗忘,只把关键历史信息固化进记忆向量,过滤无效冗余文本,从源头减少记忆数据体量,保障长轮次对话下记忆状态稳定不失效。
  2. Mixture-of-Storage 混合存储扩容架构 模型引入混合存储分层方案,把短期临时上下文、中长期固化记忆做分层存储,动态记忆只保留提炼后的关键向量,不再占用完整 KV 缓存空间。这套架构可以把超长历史的持久化存储体积大幅缩减,为百倍级存储压缩打下技术基础,同时不受上下文窗口长度限制,理论记忆容量可以持续扩容。
  3. 记忆注意力与原生注意力并行计算 在 Transformer 主干网络之外新增独立记忆注意力分支,历史记忆向量和当前输入文本并行运算,不需要把全部历史文本拼入输入 prompt。推理过程只读取轻量化记忆状态,不用反复加载数万 token 的历史上下文,直接缩短每一轮生成的计算耗时,实现长历史场景下的推理加速。

三、实测性能数据:推理速度与存储压缩量化结果

全部测试均在双 GPU、单并发、单次生成 128token 的统一环境下完成,对比基准为传统全量上下文 KV 缓存方案:

  1. 推理速度实测数据
  • 128K 历史长度:MemT-1.0-Nano 推理速度达到基准的 1.86 倍;
  • 256K 超长历史长度:MemT-1.0-Nano 推理速度达到基准的 3.99 倍,接近 4 倍提速,完全匹配宣传指标。
  1. 存储压缩实测数据
  • 128K 历史场景:持久化记忆存储体积压缩至基准的 1/66,实现 66 倍存储压缩;
  • 优化后的混合存储策略下,超长历史场景最高可实现 130 倍存储压缩,极大降低显存占用与磁盘存储成本,同等硬件可以承载更长的对话历史。
  1. 记忆能力评测成绩 在 11 项权威记忆基准测试集中,MemT-1.0-Flash 得分 50.6,MemT-1.0-Nano 得分 47.0,包揽参数化记忆方法榜单第一名与第二名,大幅超越 Temp-LoRA 等主流参数化记忆基线模型,长历史信息留存准确率显著提升。
  2. 智能 Agent 任务效果 在 SWE-bench Verified 编程智能体测试中,MemT-1.0-Nano 任务整体成功率从 66.07% 提升至 69.73%,多次连续任务稳定完成率提升 8.8 个百分点,模型可以记住过往调试经验,连续完成多轮迭代开发任务。

四、MemT 1.0 部署落地实操步骤

  1. 环境准备阶段 根据业务规模选择对应模型:小规模测试选用 MemT-1.0-Nano,单张高端 GPU 即可完成部署;企业级大批量长历史任务选用 MemT-1.0-Flash,配置多卡并行推理环境;提前安装配套 MemOS 记忆管理框架,打通记忆状态持久化读写通道。
  2. 模型加载与初始化 加载模型权重后开启原生记忆模块,开启 Mixture-of-Storage 分层存储开关,设置动态记忆容量上限,开启 GDN-2 增量更新开关,关闭全量上下文拼接逻辑,避免加载冗余历史文本。
  3. 长历史推理流程配置 第一步:首轮对话把交互内容提炼为记忆向量并持久保存; 第二步:后续每一轮对话只读取轻量化记忆状态,不再拼接全部历史文本; 第三步:模型自动完成记忆增量更新,自动过滤无效信息,持续优化记忆向量体积; 第四步:开启推理速度优化开关,启用记忆注意力并行计算,进一步缩短生成耗时。
  4. 性能调优优化 开启显存优化策略,把固化记忆向量存入磁盘分层存储,只将当前轮次临时信息保留在显存;根据业务历史长度动态调整记忆压缩倍率,平衡记忆准确率与存储压缩比例;针对 Agent 场景开启经验沉淀开关,让模型自动留存任务迭代经验。

五、主流落地应用场景

  1. 长期多轮智能客服:上万轮对话无需反复加载历史记录,记忆持续留存客户沟通信息,推理速度更快,服务器存储开销大幅下降。
  2. 软件自动化研发 Agent:连续多轮代码调试、迭代开发,模型自动记住历史报错与修改方案,持续复用过往经验,提升复杂开发任务成功率。
  3. 个性化长期陪伴对话:跨会话永久保存用户偏好信息,不用每次重新输入个人设定,做到跨轮次、跨会话持续记忆。
  4. 超长文档多轮精读:百万字长文档不用全部塞进上下文窗口,模型把文档核心内容压缩为记忆向量,反复多次提问都能精准调取文档信息。

【相关 FAQ】

问题 1:记忆张量 MemT 1.0 记忆原生大模型,长历史推理为什么可以实现近 4 倍提速?

回答 1:记忆张量 MemT 1.0 记忆原生大模型,依靠记忆注意力与原生注意力并行计算架构,不再把全部历史文本拼入输入上下文,只读取轻量化持久记忆向量;同时搭载 Gated DeltaNet-2 逐 token 更新机制,精简记忆计算量,在 256K 超长历史条件下,端到端推理速度相比传统全量上下文方案提升至 3.99 倍,实现接近 4 倍的推理提速。

问题 2:记忆张量 MemT 1.0 记忆原生大模型,最高 130 倍存储压缩是怎么实现的?

回答 2:记忆张量 MemT 1.0 记忆原生大模型,依托 Mixture-of-Storage 混合存储分层架构,把临时上下文与中长期固化记忆分开存储,仅将提炼后的关键信息保存为记忆向量,剔除冗余文本内容;配合门控增量网络精简记忆体量,在优化配置下,超长历史的持久化存储体积最高压缩至原来的 1/130,达成 130 倍存储压缩效果。

问题 3:记忆张量 MemT 1.0 记忆原生大模型,两款版本该如何选择?

回答 3:记忆张量 MemT 1.0 记忆原生大模型分为 Nano 与 Flash 两个版本;MemT-1.0-Nano 拥有 36B 总参数、10M 动态记忆,单 GPU 就能部署,适合轻量化 Agent、个人项目、小规模长对话测试;MemT-1.0-Flash 拥有 288B 总参数、336M 动态记忆,适合企业级大批量长历史任务、复杂多轮智能体项目,记忆容量与综合能力更强。

问题 4:记忆张量 MemT 1.0 记忆原生大模型,相比检索增强方案有哪些优势?

回答 4:记忆张量 MemT 1.0 记忆原生大模型属于参数化原生记忆方案,不需要额外搭建外部向量检索库,记忆直接嵌入模型计算流程,不会出现检索召回不准的问题;同时省去文本分块、向量检索的额外耗时,长历史推理延迟更低,部署链路更简洁,更适合长期连续交互的 Agent 业务。

问题 5:记忆张量 MemT 1.0 记忆原生大模型,在智能 Agent 任务上能力提升体现在哪里?

回答 5:记忆张量 MemT 1.0 记忆原生大模型可以把每一轮任务经验固化为内部记忆,跨轮次自动复用历史调试方案;在 SWE-bench Verified 编程测试中,任务整体成功率明显上涨,连续多轮迭代任务的稳定完成率大幅提高,能够持续沉淀经验,做到越用越智能。

【数据来源】

[2026-10-22] MemTensor 开源 MemT 1.0 记忆原生大模型 Pandaily

[2026-10-20] MemT 1.0 发布:迈向递归自我改进 36 氪

[2026-10-20] 上海团队发布 MemT 1.0 记忆原生大模型并开源 上观新闻

[2026-10-20] 中国团队实现大模型记忆架构创新 中国科技网

[2026-10-20] 记忆张量发布 MemT1.0 记忆原生大模型 环球网科技

[2026-10-20] MemT-1.0 技术论文 arXiv

免责声明:本文所有推理速度、存储压缩倍率、评测得分等数据均来自 MemT 1.0 官方技术论文、公开实测报告与权威媒体实测内容;模型实际运行速度、压缩倍率会受 GPU 硬件配置、历史文本长度、参数开关设置影响产生合理浮动;模型开源权限、权重下载地址、商用授权条款请以记忆张量官方网站与 Hugging Face 开源仓库最新公示内容为准;本文仅为技术成果解读,不构成任何技术采购与项目投资建议。

 
最新文章
站长推荐