Constitutional AI

用原则和 AI 反馈对齐无害性。对 Agent 史是旁支；对后来 Claude 系运行时是训练前提。

Bai 等，2022-12，Constitutional AI: Harmlessness from AI Feedback（Anthropic）。SL 自我批评 + RLAIF。

  1. 论文 — 宪法、监督修订、AI 偏好与非回避助手。
  2. 讲解 — 为何记在时间线上，却不把它写成执行协议。

原文：arXiv:2212.08073。

Constitutional AI（论文）

按原文结构转述 Bai 等 2022：原则监督、自我修订与 RLAIF。

Constitutional AI 讲解

把无害性写成可修订的原则，用模型监督模型。对齐旁支，不是交错行动那种控制协议。