这是本节的多页打印视图。 点击此处打印.

返回本页常规视图.

Voyager

2023-05。Minecraft 里用自动课程、技能库和迭代提示做终身学习。研究样本,不是生产。

Wang 等。NVIDIA / Caltech / UT Austin / Stanford 等。arXiv 2023-05。自称第一只在 Minecraft 里持续探索、积累技能、少需人工干预的 LLM 具身终身学习 agent。

  1. 论文 — 自动课程、可执行代码技能库、环境反馈与自验证。
  2. 讲解 — 代码即动作、技能可组合;为何停在研究原型。

原文:arXiv:2305.16291。

1 - Voyager(论文)

按原文结构转述 Wang 等 2023:Minecraft 中的开放式具身终身学习。

Guanzhi Wang, Yuqi Xie, Yunfan Jiang, Ajay Mandlekar, Chaowei Xiao, Yuke Zhu, Linxi “Jim” Fan, Anima Anandkumar. Voyager: An Open-Ended Embodied Agent with Large Language Models。arXiv 2023-05。arXiv:2305.16291。

中文译本:宝玉。


摘要

Voyager 是作者所称第一只由 LLM 驱动、在 Minecraft 中做具身终身学习的 agent:持续探索、获得多样技能、发现新事物,无需人工干预。三块组成:

  1. 自动课程,最大化探索。
  2. 不断增长的技能库,用可执行代码存储和检索复杂行为。
  3. 迭代提示:把环境反馈、执行错误、自验证写回提示,改进程序。

与 GPT-4 的交互是黑盒查询,不微调参数。技能在时间上可延长、可解释、可组合,能力会复利,并减轻灾难性遗忘。相对先前方法,文中报告:独特物品约 3.3 倍,旅行距离约 2.3 倍,关键科技树里程碑最快约 15.3 倍。学到的技能库可以带到新世界,从零解新任务;对照方法难以泛化。

方法

环境基于 MineDojo,底层动作走 Mineflayer 的 JavaScript API,而不是像素到按键。作者写明:重点是推 GPT-4 做终身具身学习,不是解 3D 感知或低层运动控制。

自动课程让 GPT-4 在「发现尽可能多样的事物」这一总目标下提出下一任务,输入包括当前物品栏、附近方块、已完成/失败任务,以及 GPT-3.5 自问自答的附加上下文。难度自下而上,避免下一步过难。

技能是一段可复用函数。成功并通过自验证后,用描述的嵌入做索引,存进向量库。新任务时检索最相关的若干技能,再生成新代码。复杂技能由简单程序组合。

迭代提示用三类反馈:环境中间进度(例如还缺 7 个铁锭)、解释器报错、以及另一个 GPT-4 充当批评者判断任务是否完成并给改进建议。最多约 4 轮仍卡住就换课程里的下一个任务。主模型 gpt-4-0314,部分 NLP 辅助用 gpt-3.5-turbo-0301。

基线是作者改写后能在 MineDojo 里跑的 ReAct、Reflexion、AutoGPT 风格循环。Voyager 相对它们多了技能库、自验证和开放探索课程。文中对照方法在科技树的钻石层解锁为 0/3 试次;Voyager 是唯一解锁钻石工具的。160 次提示迭代内发现 63 种独特物品。

2 - Voyager 讲解

动作写成可复用代码,环境报错再改。开世界终身学习的研究样本,不是可部署运行时。

论文解决了什么问题

Minecraft 没有固定通关剧本。先前 LLM agent 往往对着一个目标做一次 ReAct,做完就忘。这篇要的是:自己出题、做成了就存成函数、下次还能检索组合。动作空间选代码而不是原始按键,是因为程序天然表示一段延续的、可组合的行为。观察通道是库存与解释器报错,不是测试套件。

对后续 LLM 与 Agent 的影响

按 AI Agent 定义,这是具身环境里的 Agent:GPT-4 决策、多步写代码、看库存和报错、再改。它把 2023 年几条线接到一起——代码当工具、技能当外部记忆、课程当规划器。影响力在研究:后来「技能库 / 代码即策略」的开世界实验会引到这里。

它不是生产系统。控制依赖 Mineflayer 高级 API;评测在游戏里,不是 SWE-bench;token 成本高;自验证仍是另一只模型在看。完成谓词是游戏内进度,不是仓库绿。记首证:终身技能积累可以靠提示和库,不必先微调身体。不要记成「游戏 Agent 已经能当员工」。研究热度 ≠ 可部署完成率。