Packer 等，UC Berkeley。arXiv 2023-10。针对固定窗口，提出虚拟上下文管理。还不是产品默认。
原文：arXiv:2310.08560。
1 - MemGPT（论文）
按原文结构转述 Packer 等 2023：把 LLM 上下文当成要分页的内存。
Charles Packer, Sarah Wooders, Kevin Lin, Vivian Fang, Shishir G. Patil, Ion Stoica, Joseph E. Gonzalez. MemGPT: Towards LLMs as Operating Systems。UC Berkeley。arXiv 2023-10。arXiv:2310.08560。项目后来的产品化名称不回填本页。
摘要
LLM 受固定上下文窗口限制，长对话和长文档分析都会吃亏。作者提出 virtual context management：借鉴传统操作系统用分页在物理内存和磁盘之间制造「更大内存」的假象。MemGPT 智能管理多层存储，让有限窗口里出现可扩展的有效上下文。评测两个窗口特别不够用的领域：文档分析（远超窗口的大文档）、多会话聊天（要记住、反思、随长期互动演化）。代码与数据发布在文中给出的研究站点。
系统
主上下文（类比 RAM）即提示 token，推理时模型直接可见；外部上下文（类比磁盘）必须经函数调用搬进来才可见。主上下文三段：只读的系统指令、可经函数读写的 working context、FIFO 消息队列（含用户/系统消息与函数输入输出；队首是被驱逐消息的递归摘要）。
队列管理器在窗口到达告警阈值（文中举例约 70%）时插入 memory pressure 警告，让模型把重要信息写入 working context 或 archival 存储；到达冲刷阈值则驱逐部分消息并更新摘要。被驱逐的消息仍在 recall 存储里，可用函数再取回。
模型输出被解析为函数调用。可用 request_heartbeat=true 在一次用户回合里链式多步检索。事件触发推理：用户消息、系统警告、定时中断等。记忆编辑与检索是自导向的：由模型决定何时换页，而不是宿主固定截断。
评测（文中报告）
多会话聊天基于扩展的 Multi-Session Chat。Deep memory retrieval：MemGPT 相对同一底层模型的固定窗口基线明显更高（例如 GPT-4 准确率从约 32.1% 到约 92.5%；GPT-3.5 从约 38.7% 到约 66.9%）。文档 QA：固定窗口受检索条数与截断伤害，MemGPT 可对 archival 多次分页查询。嵌套键值检索：需要多跳查找时，无 MemGPT 的 GPT-3.5/GPT-4 在若干嵌套层后掉到 0%；MemGPT+GPT-4 随嵌套层数保持稳定。实现依赖模型的函数调用能力：GPT-3.5 上明显更弱。
2 - MemGPT 讲解
窗口是物理上限。用函数自己换页。延长的是循环能走的步数，不引入新动作类型。
论文解决了什么问题
2023 年 Agent 的长期记忆默认等于：窗口里塞得下的部分，外加一层向量库相似度搜索。窗口一满就摘要或丢掉；检索到的片段也不一定真的进当前提示。MemGPT 把问题改写成操作系统问题：主存有限，磁盘更大，缺页时自己发函数去取。Function Calling 在这里不是产品功能，是换页指令集。
对后续 LLM 与 Agent 的影响
首证：分层记忆可以成为 Agent 架构，而不只是 RAG 流水线的另一个 retriever。按 AI Agent 定义，这套系统在用工具（记忆函数）对环境（外部存储）行动，并按回执再决定——是记忆子系统上的 Agent 循环。延长的是循环能走的步数和工作集可寻址范围，不引入新的动作类型。它还不是 ChatGPT 或各框架的产品默认；向量库外挂仍然是 2023 年底的主流拼法。
不要把后来的托管记忆产品写进这一页的材料。2023 年要记住的是诊断：上下文太短，截断和检索都不够，需要模型自己管理层级。能换页 ≠ 有完成谓词；工作集变大 ≠ 副作用自动正确。