告别碎片化记忆：中科院开源轻量级内存原生Agent记忆系统Mandol

随着 LLM Agent 在智能客服、告别个人助理、碎片生社交陪伴及医疗辅助等场景的化记深入应用，其交互范式正从简单的忆中单轮问答向长周期、多任务的科院开源持续协作演进。

在此背景下，轻量Agent 的内记忆记忆模块面临双重挑战：一方面需存储跨会话、多模态的存原信息（如对话内容、用户意图、系统实体状态及事件脉络）；另一方面，告别需在复杂查询中提供准确、碎片生可追溯且低延迟的化记证据支撑。

然而，忆中当前主流记忆系统多依赖向量数据库、科院开源图数据库和关系型存储的轻量异构组合，导致记忆表示碎片化且跨库查询开销巨大。同时，其检索机制多采用 RAG 式的被动相似度匹配，易引入噪声、遗漏关联线索且缺乏 Token 预算控制，致使检索质量波动较大。

针对上述痛点，中国科学院软件研究所等机构团队提出了 Mandol：一种凝聚式内存原生分层记忆系统。其核心在于将碎片化的记忆表示与异构存储凝聚为统一的内存原生架构。

论文标题：Mandol: An Agglomerative Agent Memory System for Long-Term Conversations
arXiv 链接：https://arxiv.org/pdf/2606.29778
项目地址：https://github.com/AgentCombo/Mandol

Mandol 通过分层记忆模型、统一内存语义数据结构和智能量化检索机制的协同设计，实现了记忆表示与存储的统一，为 Agent 提供了兼顾表示能力、检索效率与上下文质量的记忆底座。

在 LoCoMo 和 LongMemEval 两项公开长对话记忆评测基准上，Mandol 在对比的代表性开源记忆系统中取得最优总体准确率。在以 GPT-4.1-mini 为生成模型的设置下，其整体准确率分别达到 92.21%和 88.40%。

在性能方面，10 QPS（每秒10个查询请求）并发负载下，Mandol 的平均检索延迟为 82.2 ms（较最快基线加速约 5.4 倍），平均插入延迟为 39.7 ms（较最快基线加速约 4.8 倍）。即使在消费级笔记本硬件上，Mandol 的延迟仍优于现有系统，展现出卓越的端侧部署潜力。

从「碎片化存储」到「被动检索」：核心瓶颈解析

实际应用中，Agent 面临的记忆查询场景复杂多样，从简单事实提取到多跳推理均有涉及。以下三类查询对记忆系统构成了严峻挑战：

1. 强时序性检索：例如「去年暑假我去北欧旅行期间订了哪些酒店，总花费多少？」系统需精准回溯用户在不同城市的多次住宿记录，准确关联时间与花费并进行汇总。这要求系统具备对长周期内多个时序事件的精确提取与聚合能力。
2. 跨会话多跳推理：例如用户在一会话中提及「我对海鲜过敏」，数日后在另一会话中描述「吃完晚饭后皮肤起了大片红疹」。系统需将过敏史与当前症状进行跨会话逻辑拼接，推导过敏反应，而非孤立检索关键词。
3. 动态状态更新与去噪：例如用户购房偏好从「郊区大户型」变更为「市区学区房」。系统必须准确跟踪状态变化，在回答推荐请求时仅依据最新约束，自动覆盖陈旧偏好，避免干扰当前决策。

面对上述需求，当前主流 Agent 记忆系统（如 Mem0、Zep、MemOS 等）存在三大主要缺陷：

• 记忆信息难以统一表示：向量嵌入擅长语义匹配但难以表达逻辑与时序；知识图谱具备结构化表达能力但对动态语义支持不足。二者缺乏统一表征框架，导致信息分散，查询时难以获得完整视图。
• 跨库查询开销巨大：复杂混合查询需在向量、图及其他存储间进行跨库编排，产生高昂的序列化与 I/O 开销，难以满足低延迟交互需求。
• 查询精度与 Token 消耗难以兼顾：传统 RAG 式「被动相似度匹配」易引入噪声、冲突或遗漏多跳线索；且 Token 消耗缺乏约束，简单查询浪费上下文窗口，复杂查询关键证据链却常因截断而丢失。

Mandol 的三项核心设计：表示、存储与检索的一体化

针对上述挑战，Mandol 从记忆模型、存储架构和检索机制三个维度进行了系统性创新。

设计一：分层记忆模型 —— 以结构化语义图实现统一表征

Mandol 将记忆组织为两个层次，通过可追溯链接保持双向关联，确保抽象推理可溯源至原始证据：

• 基础记忆层：直接存储原始交互信息。以记忆单元（封装原始信息与语义向量）、记忆空间（提供多粒度逻辑隔离）以及显式关系（时序、引用、状态更新等）和隐式语义关系，构建统一的结构化语义图。
• 高阶抽象记忆层：由大模型自动从基础记忆中提炼出情景记忆（事件链）、语义记忆（实体关系图）和情感记忆（用户偏好演化链）等抽象知识。

在结构化语义图中，基础层记忆单元以节点形式存在，显式关系边通过规则解析直接建立，隐式语义边则在查询时按需从向量索引获取。高阶层在此基础上进一步抽象：
* 事件链：以时序和因果边连接事件节点。
* 实体图：以引用和属性边组织实体关系。
* 偏好演化链：以状态更新边追踪用户偏好变化轨迹。

示例：当对话片段「预订了一间胡同民宿」被增强为带有时空上下文的事件节点后，Mandol 不仅将其与同次旅行的其他事件（如「航班延误」、「参观故宫」）建立时序边，还通过语义索引与之前会话中的「计划预订王府井酒店」建立跨会话隐式关联，并抽象出一条状态更新边，完整刻画住宿偏好从「王府井酒店」到「胡同民宿」的演化过程。所有抽象节点均保留指向原始基础单元的引用，为精确检索提供既细粒度又可推理的数据基础。

设计二：内存原生语义数据结构 —— 消除跨库查询延迟

异构多库架构是查询延迟的主要来源。Mandol 设计了 SemanticMap与 SemanticGraph协同工作的原生内存数据结构，在单一地址空间内实现键值存储、向量索引与图结构的原生融合：

• SemanticMap：融合传统键值存储和向量结构，解决记忆单元的多模态数据存储与语义查询问题，支持通过记忆空间标签进行上下文逻辑隔离。
• SemanticGraph：统一管理显式记忆关系与隐式语义关联。显式关系以结构化边直接存储；隐式语义关联依托 SemanticMap 中的向量索引按需检索并动态返回相似邻居，避免预先枚举和物化所有潜在语义边。

两者在物理层面实现结构化语义图的统一存储视图。Mandol 提供了一套原子化混合检索算子，覆盖记忆单元查询、空间查询、关系查询和多跳查询等操作，将向量匹配、图遍历等统一封装为内存内高效执行单元，显著降低异构存储带来的高 I/O 延迟。此外，活跃记忆层通过异步分页机制连接嵌入式持久化后端 DuckDB，用于冷数据或长期存储。

设计三：智能量化检索机制 —— 在 Token 预算内构建高质量上下文

Mandol 将检索任务重新定义为「在有限 Token 预算下构建高质量上下文」，构建了无需大模型介入的量化检索流程：

1. 智能路由与并行召回：通过查询自适应的智能路由进行预算分配，选取部分高阶记忆和基础记忆进行多源并行召回，确保记忆信息完整覆盖。
2. 去噪与消解：对召回结果进行记忆源内部量化去噪与跨记忆源冲突消解，去除噪声与冗余信息。
3. 上下文精简：在 Token 预算约束下完成上下文的精简与生成，兼顾相关性与多样性，从而在有限开销内获得高信息密度的证据上下文。

实验结果：准确率领先，效率大幅提升，部署友好

研究团队在 LoCoMo 和 LongMemEval 两项长对话记忆评测基准上对 Mandol 进行了全面验证。

检索质量：总体准确率领先

在以 GPT-4.1-mini 为生成模型、GPT-4o-mini 为评估模型的设置下，Mandol 在 LoCoMo 和 LongMemEval 上分别取得 92.21%和 88.40%的整体准确率，在所比较的代表性开源记忆系统中取得最优总体结果。尤其在多跳推理、时序推理与知识更新等复杂查询类型上，Mandol 展现出显著优势。

值得注意的是，即使采用更轻量的检索后端模型（Qwen3-Embedding-0.6B 与 bge-reranker-v2-m3），Mandol 仍在总体准确率和多数关键任务上超过使用更大检索模型的对比系统，同时将 Token 消耗降低了 17.4%–20.0%。这表明其性能增益主要源于记忆组织与检索机制的结构性优势，而非单纯依赖更大规模的嵌入或重排序模型。

系统性能：显著加速与低延迟

在 10 QPS 并发负载的服务器环境（NVIDIA H800 GPU）中：
* 平均检索延迟：仅 82.2 ms，相比最快基线实现加速约 5.4 倍。
* 平均记忆插入延迟：仅 39.7 ms，相比最快基线实现加速约 4.8 倍。

在本地消费级设备（笔记本 NVIDIA RTX 5090）的补充实验中，Mandol 的延迟仍低于现有系统，显示出优异的本地部署潜力。这种效率优势源于其进程内内存原生架构，彻底避免了数据库往返和跨库协调开销。

资源消耗：轻量化与低依赖

Mandol 内存占用适中，因消除了对外部数据库服务及其网络通信的依赖，完成标准长对话负载的整体耗时仅为对比系统的 1/4.2 至 1/9.9，展现出良好的本地部署潜力。

结语

Mandol 通过凝聚式的分层记忆模型、内存原生统一存储与智能量化检索三项核心创新，为 Agent 提供了一个兼顾高精度、低延迟和轻量化部署的记忆系统解决方案。该系统已在 GitHub 开源，便于研究者复现、试用和进一步开发。得益于内存原生架构，Mandol 无需依赖外部数据库服务，可在消费级设备上高效运行，为端侧 Agent 的记忆管理提供了新的可能。

对于正在构建需要可靠长期记忆的对话 Agent、推荐 Agent 或陪伴 Agent 等的研究与工程团队而言，Mandol 提供了一个兼具精度、性能和工程实用价值的选择。

【ICML 2026首尔 · 云帆AI Talent Meetup】最后报名中，快来晚宴现场Pick你感兴趣的同行者～

7月9日晚，首尔ICML会场旁，上海人工智能实验室、上海科技大学、上海创智学院、阶跃星辰、Sharpa Robotics等20余家上海顶尖AI单位现场设展，开放100+岗位。专场招聘、学术分享、圆桌交流、自由Networking、晚宴一站式搞定。

(责任编辑：百科)