MemPalace 是一款开源的本地 AI 记忆系统，核心特点是存储全部数据、通过结构化组织实现高效检索，且在 LongMemEval 基准测试中取得了 96.6%（R@5）的超高分数（无 API 调用、纯本地运行），是目前公开可查的同类系统中最高分，同时完全免费、无订阅 / 云服务依赖。

核心设计理念

1. 「The Palace」结构化记忆模型

借鉴古希腊演说家的 “记忆宫殿” 原理，将数据（如对话、项目文档）组织成层级结构：

• Wings（翼）：按人物、项目划分；
• Halls（厅）：按记忆类型划分；
• Rooms（房间）：对应具体的想法 / 内容；
• 区别于其他记忆系统（AI 自主筛选 “值得记忆” 的内容），MemPalace 不丢弃任何原始信息，而是通过结构化层级让用户自主导航检索，而非依赖扁平的搜索索引。

2. 核心存储特性

• 原始逐字存储（Raw verbatim storage）：将对话 / 数据完整存入 ChromaDB，无摘要、无提取，这也是其 96.6% LongMemEval 高分的核心原因；
• 本地私有化运行：全程在本地机器执行，不调用任何外部 API、不依赖云服务，数据完全本地留存；
• AAAK 实验性功能：一种有损压缩方言，针对重复实体做令牌压缩（适配 Claude/GPT/Gemini 等主流 LLM），但目前在 LongMemEval 中表现不如原始模式（84.2% vs 96.6%），属于迭代中的实验特性。

应用场景

MemPalace 凭借全量本地存储、结构化检索、超高检索精度、无云 / 订阅依赖的核心特性，适配以下核心应用场景：

1. 私有化 AI 对话 / 交互记忆管理

• 场景描述：长期与 Claude、ChatGPT、Gemini 等 AI 进行对话（如技术调试、方案讨论、创作协作），需留存所有对话上下文且能精准检索；
• 核心价值：全程本地运行，不调用外部 API、数据不泄露，原始逐字存储保证检索时能还原完整对话逻辑（而非碎片化摘要），96.6% 的 LongMemEval 检索精度可快速定位数月前的对话细节。

2. 项目级文档 / 资产全量记忆与检索

• 场景描述：管理单个 / 多个项目的全量资产（代码、技术文档、会议纪要、笔记、决策记录等），需按「项目 – 类型 – 具体内容」的层级结构化组织；
• 核心价值：通过「Wings（项目 / 人员）- Halls（记忆类型）- Rooms（具体内容）」的记忆宫殿层级，替代扁平搜索索引，可按业务逻辑导航检索（而非仅关键词匹配），且全量存储不丢失任何原始信息。

3. 无成本私有化记忆系统搭建

• 场景描述：个人 / 小团队希望搭建专属记忆系统，但无预算购买云服务、订阅商业记忆工具，或对数据隐私有严格要求；
• 核心价值：完全开源免费、无订阅 / 付费模块，本地部署即可运行，支持自定义扩展（如适配私有 LLM、自定义数据类型），零外部依赖降低使用门槛。

4. 大规模数据压缩存储（实验性）

• 场景描述：需存储海量重复度高的文本数据（如长期对话日志、批量项目文档），希望在可控精度损失下降低令牌占用；
• 核心价值：AAAK 实验性功能支持有损压缩（针对重复实体做令牌精简），适配 Claude/GPT/Llama 等主流 LLM 读取，虽检索精度降至 84.2%，但可实现规模化数据的轻量化存储（需评估精度 – 压缩比 trade-off）。

5. 基准测试与检索系统研发参考

• 场景描述：AI 记忆 / 检索系统开发者需验证自研方案的精度，或参考高分数检索系统的设计思路；
• 核心价值：仓库内置 LongMemEval、MemBench 等主流基准测试脚本，可复现 96.6% 的高分检索结果，其「原始存储 + 语义检索 + 结构化过滤」的架构可作为研发参考。

6. 定制化记忆检索流程开发

• 场景描述：需适配特定业务的记忆检索逻辑（如按「决策 / 里程碑 / 问题」分类检索项目对话、对接私有插件生态）；
• 核心价值：提供 Hooks 脚本、Claude/Codex 插件适配配置、自定义提取模式（如 --extract general 分类采集），支持开发者扩展定制化检索流程。

C4 架构说明

1. 系统上下文（Level 1）

• 用户：使用 MemPalace 管理本地记忆
• MemPalace：核心系统，不依赖云端
• 外部依赖：本地文件 + 本地 LLM

2. 容器（Level 2）

• CLI：用户主要交互入口
• 核心引擎：记忆管理 + 检索逻辑
• ChromaDB：本地向量存储（全量原始数据）
• 插件系统：对接 AI 工具
• 基准测试：验证检索精度（96.6% R@5）

3. 组件（Level 3）

• 数据采集器：导入对话 / 代码 / 文档
• 记忆宫殿模型：结构化层级组织（Wings/Halls/Rooms）
• 检索引擎：语义检索 + 层级导航
• 存储引擎：管理 ChromaDB
• AAAK 压缩器：实验性令牌压缩

系统上下文图（Level 1）C4

容器图（Level 2）C4

组件图（Level 3）C4

总结

    MemPalace 核心适配「本地私有化、全量存储、高精度检索」的记忆管理需求，覆盖个人 AI 交互记忆、项目资产管理、低成本私有化系统搭建、实验性压缩存储等场景，尤其适合对数据隐私、检索精度要求高，且不愿依赖云服务 / 订阅的个人或小团队。

文章摘自：https://www.cnblogs.com/wintersun/p/19845020