Sparrow

搜索带证据、规则约束的对话原型。观察通道是页面;目标不是开放任务执行。

Glaese 等,2022-09,Improving alignment of dialogue agents via targeted human judgements。基座 Dialogue-Prompted Chinchilla。

  1. 论文 — 逐条规则、行内证据、RLHF 与对抗探测。
  2. 讲解 — 和 WebGPT / ChatGPT / Agent 的距离:通道是页面,谓词是带引用的答案。

原文:arXiv:2209.14375。


Sparrow(论文)

按原文结构转述 Glaese 等 2022:规则标注、证据检索与多目标 RLHF。

Sparrow 讲解

能搜、能引用、能被规则管住。谓词是带出处的答案,不是把一件开放任务做完。