MemGPT

2023-10。操作系统式分页搬进 LLM。延长循环的步数,不引入新动作类型。

Packer 等,UC Berkeley。arXiv 2023-10。针对固定窗口,提出虚拟上下文管理。还不是产品默认。

  1. 论文 — 主上下文 / 外部上下文、函数换页、文档分析与多会话聊天。
  2. 讲解 — 为何向量库外挂不够,以及这篇仍停在研究系统。

原文:arXiv:2310.08560。


MemGPT(论文)

按原文结构转述 Packer 等 2023:把 LLM 上下文当成要分页的内存。

MemGPT 讲解

窗口是物理上限。用函数自己换页。延长的是循环能走的步数,不引入新动作类型。