BDI(1991)
形式化原文:Rao & Georgeff, 1991,Modeling Rational Agents within a BDI-Architecture,KR 1991,pp. 473–484。实现向的配套报告:Rao & Georgeff, 1995,BDI Agents: From Theory to Practice(ICMAS)。哲学来源:Michael Bratman, Intention, Plans, and Practical Reason(1987)。对照对象:Cohen & Levesque, 1990,把意图定义成信念与目标的时序公式。
这个概念是什么
BDI 指一类把 Agent 的内部状态分成三种态度的架构:
- Belief(信念):Agent 认为世界处于何种状态;可以为假,需要随观察修正。
- Desire / Goal(愿望 / 目标):Agent 希望达成的状态。论文把目标收窄为已选定、且内部一致的愿望,并且 Agent 必须相信该目标是可达成的。
- Intention(意图):Agent 已承诺去尝试实现的那些行动方案。意图是部分的行动计划,对后续推理有约束,不能还原为「信念加上愿望」。
Bratman 的论题是:意图在实践推理中有独立作用。它是尚未完成的部分计划,会控制行为、排除与之冲突的其他选项,并具有惯性。Rao 与 Georgeff 把这一论题写成可能世界语义,使意图与信念、目标平级,从而可以讨论不同的承诺策略。
BDI 系统的决策核心是符号结构与规则,属于 1990 年代智能体文献中的 Agent。
关键术语:可能世界
BDI 的形式化建立在一个反直觉的做法上:它不把世界写成一个状态,而是写成这个 Agent 认为哪些状态是可能的。
日常说法里,「Agent 相信外面在下雨」是对世界的断言。在可能世界语义里,它被改写成「在 Agent 认为可能的每一个世界里,外面都在下雨」。两句听起来等价,差别在于后者显式承认了世界是复数:Agent 不知道的事,表现为有多个世界都符合它已知的一切。
这个做法是三态度的共同基础。信念、目标、意图都不直接描述世界,而是描述「在哪些世界里成立」。信念对应 Agent 认为可能的那些世界,目标与意图再在这之上各选一层。意图之所以不能化简为「信念加愿望」,正因为它是一层独立的选定,而不是从前两层推导出来的。
时间树是这套结构的形状。从一个时间点往后看,未来分叉,过去只有一条线;树上某个世界的某个时间点叫一个情景。分支表示 Agent 当时可做的选择,事件把情景推到下一个。执行可能成功也可能失败,两种结果在树上都标出来,所以 Agent 可以对意图采取行动,而不被要求每次尝试都成功。
关键术语:慎思
BDI 把实践推理(practical reasoning)拆成两个问题,各有专名:
| 问题 | 名称 |
|---|---|
| 我该做什么 | 慎思(deliberation) |
| 我该怎么做 | 手段—目的推理(means-end reasoning) |
慎思是在若干可采纳的手段中,挑出要承诺去执行的那些。它在解释器循环里的位置是「生成选项」之后的下一步(见下文「从理论到解释器」一节):先用手段—目的推理找出有哪些办法能达到目标,再由慎思在它们之间选定并成为意图。这个二分来自 Bratman,他把「决定做什么」与「决定怎么做」当成两种不同的推理,而不是一个过程的两个阶段。
慎思不只是「挑一个」。它要回答两个问题:哪些新选项应当被采纳为意图,以及已有的意图是否要重新考虑。第二个问题正是后面那张承诺策略表要处理的事——盲目承诺、一心一意、开放三者的差别,就在于慎思允许多频繁地推翻已承诺的意图。省略这一层,「慎思」与「选一个」便没有区别。
「慎思」取自《中庸》「慎思之」,是 deliberation 的通行译法。Wooldridge & Jennings 把 Agent 架构分为慎思式、反应式、混合三类,用的是同一个词;那里指整类系统「先推理再行动」的设计路线,这里指循环中的具体一步。
论文的主要内容(1991)
要解决的问题
已有形式化(尤其 Cohen & Levesque)把意图写成信念与目标的某种时序组合。Rao 与 Georgeff 认为这样无法把意图当作一等对象,也难以对意图本身施加与目标不同的持续性条件。他们要给出另一种可能世界形式化,使:
- 意图与信念、目标平级,不能化约;
- 区分 Agent 可选择的行动分支,与行动执行后由环境决定的结果;
- 信念、目标、意图之间有兼容关系,以避免「连不愿接受的副作用也一并承诺」。
时间树与模态
世界被建成时间树:未来分支、过去唯一。某一世界中的某一时间点称为一个情景。事件类型把时间点变成另一时间点。原子事件由 Agent 直接执行,并唯一决定下一时间点;非原子事件对应不相邻时间点,用来表示部分计划及其向原子事件的分解。
从某一时间点伸出的分支表示 Agent 当时可做的选择。执行可能成功或失败,分支按此标记,从而 Agent 可以对意图采取行动,而不被要求每次尝试都成功。
逻辑是分支时间逻辑 CTL* 的一阶、多模态扩充。公式分状态公式与路径公式。optional φ 表示从该点出发至少有一条路径使 φ 成立;inevitable φ 表示所有路径皆然。再加上 next / eventually / always / until。BEL(φ)、GOAL(φ)、INTEND(φ) 都是状态公式。事件方面有 succeeds(e)、fails(e)、does(e) 以及对应的过去时形式。
信念、目标、意图的可达世界
在每个情景上:
- 信念可达世界:Agent 认为可能的那些世界。每个可达世界本身仍是一棵时间树:多世界来自对当前状态的无知,世界内部的分支则是 Agent 仍可选择的行动。
- 目标可达世界:表示已选定的目标。目标必须一致;并且采用 strong realism:Agent 须相信通过审慎选择事件,目标可以可选地达成。实现方式是:对当前的每个信念可达世界 (w),在同一时刻必须存在一个目标可达世界,它是 (w) 的子世界。
- 意图可达世界:Agent 已承诺去尝试实现的世界。兼容条件平行:每个目标可达世界在同一时刻必须有一个作为其子世界的意图可达世界。
反之不成立:即使 Agent 相信某事实不可避免,也不被迫把它收为目标或意图。因此目标与意图须一致,但不必在信念下封闭。文中的例子:Agent 相信「补牙不可避免伴随疼痛」,仍可以有「去补牙」的目标,而不必有「去疼痛」的目标。
1991 年论文的第 3 节给出解释 (M = \langle W, E, T, \ldots, B, G, I, \Phi \rangle) 与满足关系;第 4 节讨论态度如何形成、维持、修正。承诺策略的直观分类在后续 BDI 文献中稳定为三类(1995 年实践论文中写得更便于实现对照):
| 策略 | 放弃意图的条件 |
|---|---|
| 盲目承诺(blind / fanatical) | 直到相信已成功,或相信已不可能 |
| 一心一意(single-minded) | 上述条件,或目标本身已被放弃 |
| 开放(open-minded) | 信念变化导致目标不再成立时也可以放弃 |
从理论到解释器(1995)
1995 年 BDI Agents: From Theory to Practice 给出与上述语义对应的解释器循环:
初始化状态
重复:
选项 := 根据事件队列生成选项
选定 := 对选项做慎思(deliberate)
用选定结果更新意图
执行当前意图中的一步
获取新的外部事件
丢掉已成功的态度
丢掉已不可能的态度
「选项」对应可采纳的手段,「慎思」对应从愿望中筛选意图,「执行」对应对已承诺计划采取一步行动。事件队列把环境观察接入信念修正。这一循环是 BDI 作为软件架构时最常被引用的部分;1991 年论文则是其语义依据。
关键术语
| 术语 | 在这篇论文里的含义 |
|---|---|
| 信念可达世界 | Agent 认为可能的时间树集合 |
| 目标 vs 愿望 | 目标是一致的、且被相信可达成的选定愿望 |
| 意图 | 已承诺尝试实现的部分计划;与信念、目标平级 |
| 子世界兼容 | 目标是信念的子世界,意图是目标的子世界 |
| strong realism | 须相信目标可通过选择行动可选地达成 |
| 承诺策略 | 意图在成功、失败、目标变化、信念变化时如何持续 |
| 副作用问题 | 相信「φ 蕴含 ψ」时,对 φ 的意图是否强制带上 ψ |
和 AI Agent 的关系
BDI 用信念、愿望、意图三种态度描述理性 Agent。今日产品里的 goal、plan、memory,是这套词汇的通俗版。
解释器的循环是:事件进队列、慎思、执行一步、再取外部事件,动作与观察都在其中。决策核心是符号态度上的规则与承诺策略。
LLM 产品里出现的 memory、goal、plan、todo,与 BDI 三态度在问题上对应:系统对世界有一个当前看法,有一个要达成的目标,有一个正在执行、不应每一步都推翻的计划。在实现上不对应:没有可能世界可达关系,也没有上述解释器中那种形式化的选项生成与承诺策略。上下文窗口、检索、频道记忆承担的是信念的工程替代;系统提示或用户请求承担的是目标;运行时任务列表承担的是意图。这一页不把「长期记忆」写成 BDI 的复活,也不把 2023 至 2025 年的 Agent 运行时写成 BDI 解释器换核心。