InstructGPT

把决策核心从网页续写拧到指令契约。2022-01 成 API 默认;论文 3 月挂出。

Ouyang 等,2022,Training language models to follow instructions with human feedback。SFT + 奖励模型 + PPO(RLHF)。OpenAI 2022-01-27 宣布 InstructGPT 为 API 默认模型。

  1. 论文 — 按原文结构转述:三步训练、标注者偏好、TruthfulQA 与限度。
  2. 讲解 — 指令契约如何成为后来系统提示与工具说明的前提。

原文:arXiv:2203.02155。产品公告:Aligning language models to follow instructions(2022-01-27)。


InstructGPT(论文)

按原文结构转述 Ouyang 等 2022:RLHF 三步、标注偏好与公开基准。

InstructGPT 讲解

预训练目标是网页续写;指令契约把核心拧成「按意图解码」。仍是单次生成。