MemGPT
2023-10。操作系统式分页搬进 LLM。延长循环的步数,不引入新动作类型。
Packer 等,UC Berkeley。arXiv 2023-10。针对固定窗口,提出虚拟上下文管理。还不是产品默认。
- 论文 — 主上下文 / 外部上下文、函数换页、文档分析与多会话聊天。
- 讲解 — 为何向量库外挂不够,以及这篇仍停在研究系统。
原文:arXiv:2310.08560。
按原文结构转述 Packer 等 2023:把 LLM 上下文当成要分页的内存。
窗口是物理上限。用函数自己换页。延长的是循环能走的步数,不引入新动作类型。