Constitutional AI 讲解

论文解决了什么问题

InstructGPT / ChatGPT 的无害性依赖大量人类比较。伤害标注贵、难一致，而且「拒绝」容易训成回避。Sparrow 把规则交给人类逐条打。Constitutional AI 再走一步：伤害标签几乎不用人写，人只写十来条原则；批评、修改、偏好都由模型按原则完成。附带目标是：拒绝时说明理由，而不是把对话卡死。

对后续 LLM 的影响

RLAIF、原则清单、自我批评，成为后来 Claude 系公开叙事里的训练前提。改安全目标不必重新采一轮伤害标签——迭代从数据收集变成改宪法文本。思维链进入评判过程，也让「模型为什么拒绝」比黑盒奖励更可读。

对 AI Agent 的影响

对执行循环几乎没有直接贡献：没有 Observation，没有工具。记在 2022 年，是因为后面能上线的对话产品 / 工具运行时，决策核心必须先能被原则管住；Claude 系用户 2023 年起碰到的拒答与解释，配方根在这里。它是对齐与可控的旁支，不是 ReAct 那种控制协议。