InstructGPT(论文)
按原文结构转述 Ouyang 等 2022:RLHF 三步、标注偏好与公开基准。
Ouyang 等,2022,Training language models to follow instructions with human feedback。SFT + 奖励模型 + PPO(RLHF)。OpenAI 2022-01-27 宣布 InstructGPT 为 API 默认模型。
原文:arXiv:2203.02155。产品公告:Aligning language models to follow instructions(2022-01-27)。
按原文结构转述 Ouyang 等 2022:RLHF 三步、标注偏好与公开基准。
预训练目标是网页续写;指令契约把核心拧成「按意图解码」。仍是单次生成。