Chain-of-Thought 讲解

论文解决了什么问题

上下文学习擅长模仿问答格式，不擅长先拆步再给答案。标准 few-shot 在 GSM8K 一类任务上随规模改善很弱。先前要中间步骤，就得微调或从零训 rationale。

CoT 的解法极窄：不改权重，只改示范里有没有中间语言。 解码时多生成一段 token，等于在前向过程里展开一层串行计算。代价是必须够大（约 100B+）；小模型会流畅地错。它分配的是生成更多 token 的计算，不是工具，不是环境。

对后续 LLM 的影响

多步思考从此可以显式写在文本里，成为可复制的推理协议。2022 以后几乎所有「让模型先想」的提示都是这一页的变体。PaLM 540B 把规模条件做成可引用事实：同一套 CoT，小模型接近无效。

对 AI Agent 的影响

ReAct 的 Thought 从这里接出，再接到 Action / Observation 上。没有这类中间步骤，循环里就只剩动作。它仍然不是循环：没有 Action，没有 Observation；错了只能在下一段语言里改口。把 CoT 写成已经实现 Agent，会漏掉执行层。