PAL

推理步骤编译成程序，计算交给 Python 解释器。解释器当计算器；任务是解题。

Gao 等，2022-11，PAL: Program-aided Language Models。Codex few-shot；GSM8K 超过 PaLM-540B 的 CoT。

  1. 论文 — 程序当思维链、13 项任务、gsm-hard。
  2. 讲解 — 为何把算术移出解码过程，比继续让模型心算更硬。

原文：arXiv:2211.10435。项目页：reasonwithpal.com。

PAL（论文）

按原文结构转述 Gao 等 2022：程序辅助语言模型与解释器卸载。

PAL 讲解

拆题留给模型，算术留给解释器。副作用关在运行时返回值里，不是改仓库。