加州 AB 316 讲解

「不是我，是它自己干的」不再是抗辩。责任留在人类一侧，但执法与审计仍是空白。

当时解决了什么问题

自主系统带来一个归责难题：如果损害由模型自主做出，被告能不能说「这不是我决定的」？AB 316 的回答很干脆——不能。开发、修改、使用 AI 的人，不能拿自主性当挡箭牌。

这条对做 Agent 平台的人有直接含义：「模型自己选的」不是免责事由。工具调用的授权、沙箱的边界、动作的审批，都得由设计者负责——因为它们都是人定的。

要说清的边界

  1. 它不管 Agent 定义。条文用的是「自主程度可变的系统」，全文没有 agent 字样。用词上的回避是有意的：立法者不想争论什么算 Agent。
  2. 它不管审计。没有任何留痕、日志、披露要求。这意味着「出了事谁负责」有了答案，「怎么查清出了什么事」还没有。
  3. 它是州法，不是联邦法。截至 2026 年 9 月，没有任何一个美国州法在 2026 年生效且明确点名「AI agent」或「agentic AI」——碰自主性的都用泛化表述。这个否定结论本身值得记。

对后续 LLM 与 Agent 的影响

把这条和同年 8 月的欧盟 AI Act 第 50 条指南并排看，两个法域走了两条路：欧盟要求「说清楚是谁在行动」，加州要求「别拿自主性推责」。一个管上游披露，一个管下游归责。

对平台设计，两条合起来给出的约束是：动作要能追溯到委托人，行为要能解释。审慎地说，目前法律只要求前者的一半（披露），后者（审计）仍是空白——2027 提纲里值得继续盯的正是这块。