PaLM 讲解

论文解决了什么问题

GPT-3 已证明规模带来少样本。下一步要问：再放大一个数量级，少样本、多步推理、对抗性基准会不会继续涨。PaLM 用 540B 稠密模型和跨 Pod 训练给出答案：少样本继续刷新；BIG-bench 上出现不连续跳；多步推理可以超过微调 SOTA。

对 2022 年的读者，它是思维链提示的物理底座：没有够大的检查点，写中间步骤只是流畅的错误链条。

对后续 LLM 的影响

「涌现」从此有一张可引用的图：若干任务在扩到最大模型时才陡升。后来谈 100B 阈值、谈推理随规模跳，都会回到这一页。多语言与代码生成同检查点，也预示决策核心不必再拆成「语言一只、代码一只」。

对 AI Agent 的影响

循环里的 Thought 要靠核心自己生成可执行的中间语言。2022 年这还不是提示词能单独解决的：小模型写得出句子，写不出可靠步骤。规模是当年核心能力的物理上限之一。它本身不是 Agent：没有工具 schema，没有环境。