Toolformer 讲解

论文解决了什么问题

2022 年工具使用默认靠提示：示范格式、解析字符串、赌模型吐出可执行调用。脆，也不会从预训练目标里长出来。Toolformer 改问：若一次 API 调用能降低后续 token 损失，模型能不能自己发现该插在哪。

过滤标准不是人喜欢哪条轨迹，是语言模型损失有没有下降。对象仍是生成中间的内联 API，不是「给一个目标转完」。

对后续 LLM 的影响

「工具使用可学」从此有训练侧证据。后来各家把函数调用做进微调与偏好数据，问题陈述同类：何时调用、参数是什么。它没有规定 Chat Completions 的 functions 字段；那是 6 月的接口工程。训练目标 ≠ 开放 schema。

对 AI Agent 的影响

按 AI Agent 定义，Toolformer 不是 Agent：一次生成里插入调用，没有目标驱动的多步循环，也没有宿主侧的执行循环。它补的是决策核心的一块——算不准时把计算交出去。没有这一块，循环里的 Action 只能靠提示词演戏。有了这一块，仍缺宿主、缺停机、缺完成谓词。