2024年

• 1: 2024年的概述
• 2: Gemini 1.5
• 2.1: Gemini 1.5（材料）
• 2.2: Gemini 1.5 讲解
• 3: Claude 3
• 3.1: Claude 3（材料）
• 3.2: Claude 3 讲解
• 4: Devin
• 4.1: Devin（材料）
• 4.2: Devin 讲解
• 5: SWE-agent
• 5.1: SWE-agent（论文）
• 5.2: SWE-agent 讲解
• 6: OSWorld
• 6.1: OSWorld（论文）
• 6.2: OSWorld 讲解
• 7: GPT-4o
• 7.1: GPT-4o（材料）
• 7.2: GPT-4o 讲解
• 8: Cursor
• 8.1: Cursor（材料）
• 8.2: Cursor 讲解
• 9: Claude 3.5 Sonnet
• 9.1: Claude 3.5 Sonnet（材料）
• 9.2: Claude 3.5 Sonnet 讲解
• 10: SWE-bench Verified
• 10.1: SWE-bench Verified（材料）
• 10.2: SWE-bench Verified 讲解
• 11: OpenAI o1
• 11.1: OpenAI o1（材料）
• 11.2: o1 讲解
• 12: Claude Computer Use
• 12.1: Computer Use（材料）
• 12.2: Computer Use 讲解
• 13: Model Context Protocol
• 13.1: MCP（材料）
• 13.2: MCP 讲解
• 14: Building effective agents
• 14.1: Building effective agents（材料）
• 14.2: Building effective agents 讲解

1 - 2024年的概述

一句话主线： 2024 年，编码循环第一次接到独立于演示的完成谓词。SWE-bench Verified 成为默认基准；Devin 把「AI 软件工程师」做成品类口号；Computer Use 把观察换成像素、动作换成键鼠；MCP 在 11 月给出模型↔工具/数据的开放接线。热度集中在产品与基准；MCP 当年几乎无人采用，2025 年才被追认为工具层拐点。

上一页：2023。总弧线见 概述。协议深挖见 MCP。

和 LLM 的关系

2023 给出控制循环和 Function Calling schema。2024 年模型侧改写 Agent 前提的，是四块：

• 长上下文成为长轨迹的工作集上限。 Gemini 1.5（2024-02）把窗口推到约 100 万 token；Claude 3 系、GPT-4 Turbo 把「一次会话装下小仓库 / 长文档」做成可买能力。Agent 不必每步靠检索外挂才能看见代码。窗口够，仍不产生副作用。
• 多模态让像素观察成立。 GPT-4o（2024-05）把视听做进同一对话模型；Anthropic 在 10 月用升级后的 Claude 3.5 Sonnet 推出 Computer Use：截屏 → 鼠标键盘。能看 ≠ 已点击。没有视觉核心，通用电脑操作只能是网页 API 调用。
• 推理从明文 Thought 内化到测试时计算。 o1-preview（2024-09）用强化学习训练隐式长思考。规划、试错、自检不再完全依赖 ReAct 把 Thought 写进上下文。循环可以更短，代价是延迟、账单和不透明。停机、工具、沙箱仍在宿主。把内部 CoT 当成已经实现 Agent，会漏掉执行层。
• 编码核心被仓库级谓词逼着涨。 Claude 3（3 月）、3.5 Sonnet（6 月）以及 10 月的 Sonnet 升级，把 SWE-bench Verified 从约三分之一拉到约一半（厂商自报 49%）。分数会刷、会挑子集。事实是：决策核心第一次在「修真实 GitHub issue」上拿出可引用成绩。模型仍不是 Agent。

工具接线仍是各家私有 schema。MCP 出现在 2024 年底，当年没有统一生态。

里程碑

每条一个分类，标签可多个（六类历史角色）。

刻意不升格的：GPT Store 里的 GPTs（自定义助手，无目标循环）；Rabbit R1 等硬件叙事；大多数「多 Agent 框架」发布会——CrewAI / AutoGen / LangGraph 作为工程化存在，但 2024 的主线是编码谓词和协议萌芽，不是又一次 AutoGPT 式框架膨胀。

能力栈切片

模型层

默认核心从 GPT-4 换成更强的 Sonnet / 4o / Gemini。o1 把「想」部分藏进内部计算。长窗口和视觉第一次同时到位。Function Calling 已是各家标配，不再是新闻；它是接线，不是循环。

框架 / 协议层

框架继续分叉：LangGraph 强调有状态图；各家 Agent SDK 开始出现。改写后续接线的是 MCP：把「接工具」从每家私有 JSON 往开放标准推。2024 年生态很小，11 月发布 ≠ 已经统一。电脑操作仍是厂商私有 API（Computer Use），不是协议。

应用层

主线是编码 Agent：Devin 代表全自主云端工程师叙事；Cursor / Copilot 代表 IDE 里人在环路；SWE-agent / OpenHands（由 OpenDevin 而来）代表可复现的开源循环。Computer Use 打开第二条应用线——通用电脑操作——但 2024 年仍是研究预览。Deep Research 作为品类要到 2025。

基础设施层

评测成为完成谓词：SWE-bench / Verified、OSWorld、TAU-bench。刷基准与真实交付之间的缝，2024 年开始被公开讨论。沙箱成为编码 Agent 标配（云端 VM、隔离执行），但调度、冷启动、身份还不是论文主题——那是 2026 的 Aries / SpecBox。

还做不到什么

• 全自主软件工程师。 Devin 能演示，SWE-bench Verified 在 2024 年底最好公开分大约一半；跨多文件、含糊需求、长周期项目仍不稳。
• 可靠的通用电脑操作。 Computer Use 公测，OSWorld 仍是低分区间，与编码线 Verified 不在同一数量级。
• 跨厂商的工具插槽。 MCP 有了规范，没有成为默认接线。
• 推理成本可忽略。 o1 让规划更强，也让每一步更贵；经济性第一次成为 Agent 设计约束。
• 组织级身份与治理。 Agent 仍然借用用户 OAuth 或一把 key。主体不是独立 principal。团队共享工作区不是 2024 年的产品主线。

当时的反方意见：Devin 考题子集、Computer Use 被用来乱点网页、MCP「又一个协议」。后两句到 2025–2026 会部分被证伪（MCP 活下来了）；第一句仍然成立——引爆型事件要等第三方谓词。

2 - Gemini 1.5

Google，2024-02-15。Gemini 1.5 Pro：标准 128k 窗口，私有预览可试到约 100 万 token。

1. 材料 — 按当时博文转述：窗口规模、模态、预览范围。
2. 讲解 — 窗口是工作集，不是循环；核心不是 Agent。

当时公告：Introducing Gemini 1.5。技术报告：arXiv:2403.05530。

2.1 - Gemini 1.5（材料）

本页转述 2024-02-15 产品公告当时公开说了什么，不以后来的 1.5 Flash、公开定价档或 200 万窗口回填。

主要出处：Google，2024-02-15，Introducing Gemini 1.5。开发者侧：Gemini 1.5 in Google AI Studio。本页不复制公告全文。

产品主张

Gemini 1.5 被写成下一代模型，长上下文是突破点。首只放出测试的是 Gemini 1.5 Pro：中等规模多模态模型，宣称在一批任务上接近当时最大的 Gemini 1.0 Ultra。架构上写了 Mixture-of-Experts（MoE）。

上下文：

• 默认： 128,000 token。
• 私有预览： 有限开发者与企业客户可经 AI Studio / Vertex AI 试到 最多约 100 万 token。公告称这是当时大规模基础模型里最长的窗口；研究侧还写过测到约 1000 万 token，那不是产品默认。
• 公告把 100 万 token 约写成：约 70 万词、约 11 小时音频、或约 1 小时视频。早期测试免费，但延迟更长；正式定价打算按窗口档位收费。

用途举例（公告自己列的）：一次装进较长代码库、跨长文档推理、长对话、对视频内容提问。AI Studio 当时加了多文件（如 PDF）上传。

当时不是什么

这是模型能力与产品预览。长窗口让一次请求能看见更多文本、代码或视听，不等于系统已经在环境里多步循环。百万 token 当时仍是实验档，不是所有用户的默认。

2.2 - Gemini 1.5 讲解

当时解决了什么问题

2023 年长任务先撞窗口：16k、32k、128k 都装不下真实仓库或一小时会议。做法是检索外挂、截断、外部记忆——每一步都丢状态。Gemini 1.5 把「整份材料进一次前向」做成可买的预览档。对编码循环，这意味着少做一轮「先检索再读文件」，决策核心可以一次看见更多树。

它没有发明循环，也没有发明工具接口。私有预览、更长延迟、后来才分层计费，都说明这首先是模型产品。窗口够，仍不产生副作用。

对后续 LLM 与 Agent 的影响

长上下文此后成为各家标配竞赛。Agent 设计从「必须外挂记忆才能看见代码」变成「窗口够用时可以少检索」。检索没有消失：费用、延迟、注意力在超长序列上是否均匀，都还在。窗口是工作集上限，不是完成谓词。

按 AI Agent 定义，Gemini 1.5 本身不是 Agent。它是循环里那颗能一次看更多材料的决策核心。没有足够长的窗口，仓库级任务只能靠工具一点点抠；有了窗口，也不等于循环可靠，更不等于已经在环境里行动。

3 - Claude 3

Anthropic，2024-03-04。Claude 3 三档：Haiku、Sonnet、Opus。200k 窗口。公告预告 Tool Use 与更强的 agentic 能力，当时还不是产品循环。

1. 材料 — 按当时公告转述：三档模型、基准主张、路线图。
2. 讲解 — 后续 Claude 系运行时站在这条线上；3 月当天仍是聊天模型。

当时公告：Introducing the next generation of Claude。

3.1 - Claude 3（材料）

本页转述 2024-03-04 公告当时公开说了什么，不以后来的 3.5 / Computer Use / Claude Code 回填。

主要出处：Anthropic，2024-03-04，Introducing the next generation of Claude。本页不复制公告全文。

产品主张

Claude 3 家族按能力从低到高：Haiku、Sonnet、Opus。公告称在一批认知任务上刷新当时商用模型基准。用户按智力、速度、成本选档。

发布当天：Opus 与 Sonnet 可在 claude.ai 与 Claude API 使用；API 在 159 个国家一般可用。Haiku「即将推出」。claude.ai 免费体验由 Sonnet 驱动，Opus 给 Claude Pro。上下文窗口写为 200K token。能力包括图像理解（从图像抽文本等）。

企业向用途：Sonnet 被写成智力与速度的折中，适合大规模部署。Opus 被写成当时能力上限。

路线图（公告自己写的）

公告说智力远未到顶，计划随后几个月频繁更新 Claude 3。预告对企业与大规模部署有用的功能，包括 Tool Use（即 function calling）、交互式编码（REPL）、以及「更先进的 agentic 能力」。这些在 3 月 4 日是预告，不是当天已交付的运行时。

当时不是什么

这是模型家族与 API。三档核心、长窗口、即将到来的工具调用，都不等于已经有多步环境循环。agentic 一词出现在路线图里，产品形态仍是聊天与补全。

3.2 - Claude 3 讲解

当时解决了什么问题

2023 年默认决策核心是 GPT-4。Claude 2 能聊、能写，编码和长指令上经常被当成「另一个聊天模型」。Claude 3 把三档核心做成可买产品线：便宜快的 Haiku、主力 Sonnet、上限 Opus。应用方可以按步骤成本选模型，而不是全程烧最贵的那只。200k 窗口与 GPT-4 Turbo / Gemini 同一年竞赛：工作集变大，副作用仍不自动发生。

Tool Use 写在路线图里，说明 Anthropic 此时仍在补 2023 年 OpenAI 已经做成 API 的那一层。3 月 4 日交付的是聊天与补全。真正让「Claude 当编码核心」变日常的，是几个月后的 3.5 Sonnet，不是这一天。

对后续 LLM 与 Agent 的影响

没有 Claude 3，就没有后面 3.5、Computer Use、Claude Code 这条产品线。公告里的 agentic 预告后来大部分兑现，但不能把 3 月的聊天模型写成已经会用电脑、已经在仓库里收工。

按 AI Agent 定义，Claude 3 本身不是 Agent。它是更强的决策核心。循环、沙箱、看屏幕，是 2024 年其余月份和其他产品补上的。换决策核心，不换品类。

4 - Devin

Cognition，2024-03-12。Devin：带 shell、编辑器、浏览器的沙箱，宣称端到端修 GitHub issue。私有预览。

1. 材料 — 按当时博文与随后技术说明转述：产品形态、SWE-bench 子集数字。
2. 讲解 — 品类引爆与独立评测必须分开写；13.86% 是子集自报。

当时公告：Introducing Devin。评测说明：SWE-bench technical report。

4.1 - Devin（材料）

本页转述 2024-03-12 产品公告与 03-15 评测说明当时公开说了什么，不以后来的 Devin 2、定价或收购传闻回填。

主要出处：Cognition，Scott Wu，2024-03-12，Introducing Devin, the first AI software engineer；Cognition Team，2024-03-15，SWE-bench technical report。补丁与评测脚本：CognitionAI/devin-swebench-results。本页不复制公告全文。

产品主张

Devin 被写成「第一个 AI 软件工程师」：在自己的沙箱里有 shell、代码编辑器和浏览器，能规划并执行多步编程任务。演示包括：读文档学陌生框架、搭应用、修开源仓库的 bug、做 Upwork 上的真实单。用户用自然语言下任务，在界面里看它逐步干活。当时是私有预览，需申请。

SWE-bench 数字（厂商自己报的）

评测用 2023 年的 SWE-bench：真实 GitHub issue，用单元测试判定是否修好。

• 评测集是测试集的随机 25%（570 / 2,294 题），理由是跑完全量太慢——原论文作者也用过同类抽样。
• Devin 端到端、unassisted（不事先告诉要改哪些文件）解决 79 / 570，即 13.86%。
• 对照：当时公开的 unassisted 基线最高约 1.96%（Claude 2 + BM25 检索）；即便 assisted（告诉要改的文件），最好的先前模型约 4.80%（Claude 2）。
• Cognition 写明：agent 设定（整仓可导航）与 assisted / unassisted 检索设定不是严格同口径；他们仍用更强的基线数字做图。

当时不是什么

这不是开源系统，也不是全量 SWE-bench 的第三方复现。13.86% 是厂商在子集上的自报。产品叙事是「软件工程师」，交付形态是带人监看界面的云端预览。

4.2 - Devin 讲解

当时解决了什么问题

2023 年 AutoGPT 证明舆论要「给一个目标让它自己转」。编码这条线缺一个能看懂的产品：不是补全下一行，而是在仓库里设环境、复现、改代码、跑测试。Devin 把 Copilot 式副驾驶叙事推成「整份工作交给它」。SWE-bench 给了它一个可以引用的数字，而不只是演示视频。

按 AI Agent 定义，Devin 是 Agent：LLM 决策、在沙箱里行动、看测试与终端回执再决定。自主度高于 IDE 里的补全，仍有人下任务、看过程、收 PR——弱自主，不是无人值守员工。

对后续 LLM 与 Agent 的影响

「AI 软件工程师」从此变成品类名。Cursor、SWE-agent、OpenHands、后来的 Claude Code / Codex，都要在这条舆论里表态：全自主云端，还是人在环路的编辑器。Devin 的演示把期望拉到「能上岗」。

13.86% 要连着读：570 / 2,294 题，不是全量；厂商自报；agent 设定与当时公开的 assisted / unassisted 检索基线不是严格同口径；独立复现当时稀缺。热度像 2023 年的 AutoGPT——定义话题，不定义上限。人在环路的 IDE 助手往往更早上日常，留存也更高。引爆型事件要等第三方完成谓词；这一页记下的是口号先于尺子。

5 - SWE-agent

Princeton NLP 等。arXiv:2405.15793。SWE-agent：面向语言模型的 Agent-Computer Interface。开源对照 Devin。

1. 论文 — 按原文转述：ACI、SWE-bench / HumanEvalFix 数字。
2. 讲解 — 动作空间是设计物；给人的 IDE 和给模型的接口不是同一张桌子。

原文：arXiv:2405.15793。

5.1 - SWE-agent（论文）

John Yang, Carlos E. Jimenez, Alexander Wettig, Kilian Lieret, Shunyu Yao, Karthik Narasimhan, Ofir Press。SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering。2024-05-24 首挂。arXiv:2405.15793。后收入 NeurIPS 2024。

摘要

语言模型 agent 越来越多被用来在数字环境里自动化复杂任务。人做软件工程会用 IDE 这类应用；作者认为 LM agent 是另一类终端用户，有自己的能力与需求，应有专门为它设计的软件界面。论文研究界面设计如何影响 agent 表现，并给出 SWE-agent：让 LM 自主用计算机做软件工程。自定义的 agent-computer interface（ACI） 增强创建/编辑文件、导航仓库、跑测试与程序的能力。在 SWE-bench 与 HumanEvalFix 上分别达到当时的 pass@1 约 12.5% 与 87.7%，超过先前非交互式 LM 的最好成绩。论文还分析 ACI 设计如何改变行为与分数。

ACI 主张

人用的 Linux shell / IDE 对模型并不友好：动作太细、反馈太长或太噪。SWE-agent 提供较小的、面向 LM 的命令集：搜索与导航、面向模型的文件查看与编辑、护栏、简短反馈。每一步大致是 ReAct 式的「想 + 命令」，环境回执进入下一步。需要时仍可落到普通 Linux 命令。

作者把贡献写成：证明界面是 agent 表现的一等变量，而不只是换更强的模型。

评测（文中报告）

• SWE-bench： GPT-4 Turbo 作决策核心时，pass@1 约 12.47% / 12.5%（摘要四舍五入）。
• HumanEvalFix： 87.7%。

对象是开源循环 + 公开模型，不是闭源「软件工程师」产品。数字与 Devin 的 13.86% 不能直接横比（子集、是否 assisted、脚手架都不同）；论文自己比的是先前非交互式基线。

5.2 - SWE-agent 讲解

论文解决了什么问题

Devin 把「自主修 issue」做成舆论。学界缺一个可复现的对照：同样用 GPT-4 级模型，循环怎么接计算机，分数才上得去。SWE-agent 的答案不是再写一套更炫的多 Agent，而是 改界面。人用的 Linux shell / IDE 对模型并不友好：动作太细、反馈太长或太噪；同时又缺少「运行测试并返回失败切片」这种原语。ACI 提供较小的、面向 LM 的命令集：搜索与导航、面向模型的文件查看与编辑、护栏、简短回执。这是 2022 年 ReAct「行动是自由文本」之后，编码线上把 Action 重新设计成「给模型用的 API」。动作空间是设计物，不只是换更强的核心。

按 AI Agent 定义，SWE-agent 是 Agent：决策、在仓库环境里行动、用测试回执再决策。

对后续 LLM 与 Agent 的影响

后来的编码运行时（OpenHands、Claude Code、Codex CLI）都在做同一件事的产品版：不是把 VS Code 像素原样交给模型，而是给一套模型吃得消的工具。ACI 这个词没有全部流行起来，这个设计问题留下来了。

12.5%（GPT-4 Turbo，SWE-bench 全量口径下的论文数字）和 Devin 的 13.86% 外观接近，口径不同：子集、是否 assisted、脚手架都不可直接横比。真正要记的是：2024 年开源循环第一次在 SWE-bench 上拿出可引用的双位数，而且论文把「接口」写成自变量。刷分后来靠更强模型和 Verified 子集；界面这一课没有作废。

6 - OSWorld

Xie 等。arXiv:2404.07972。真实操作系统里的开放电脑任务：369 题；人约 72%，当时最好模型约 12%。

1. 论文 — 按原文转述：环境、任务、分数与失败模式。
2. 讲解 — 为何电脑操作与编码 Agent 不是同一条可靠度曲线。

原文：arXiv:2404.07972。项目页：os-world.github.io。

6.1 - OSWorld（论文）

Tianbao Xie 等。OSWorld: Benchmarking Multimodal Agents for Open-Ended Tasks in Real Computer Environments。2024-04 首挂。arXiv:2404.07972。后收入 NeurIPS 2024 Datasets and Benchmarks。

摘要

能少用人干预完成复杂电脑任务的自主 agent，被写成可改变人机交互。既有基准要么缺交互环境，要么锁在特定应用/领域，反映不了真实电脑使用的多样与复杂。论文给出 OSWorld：可扩展的真实电脑环境，支持在 Ubuntu、Windows、macOS 上做任务布置、交互学习、基于执行的评测。其上构建 369 道任务：真实网页与桌面应用、操作系统文件 I/O、跨应用工作流。每题来自真实用例，带初始状态配置与自定义评测脚本。当时最强 LLM/VLM agent 在 OSWorld 上暴露明显不足：人能完成超过 72.36%，最好模型约 12.24%，主要卡在 GUI grounding 与操作知识。

环境与任务

OSWorld 不是模拟器里的假桌面，而是真实 OS 上的可复现任务。动作包括截屏、无障碍树、键盘与鼠标。任务跨开放域应用，常要多应用、GUI 与 CLI 并用。

评测（文中报告）

基线成功率从约 0.99% 到约 12.24%。人约 72.4%。失败分析指向：点不准控件、不懂常见软件操作流程，而不只是「语言模型不够聪明」。

对象是电脑操作 agent 的环境与考卷，不是某一个厂商产品。

6.2 - OSWorld 讲解

论文解决了什么问题

WebGPT、浏览器插件、DOM 工具只能覆盖「网页里有 API 或 DOM 的那一层」。真实工作大量发生在桌面软件、文件管理器、跨应用复制。OSWorld 把考场从 MiniWoB 一类玩具环境换成真 OS，并且用执行脚本打分，而不是看演示是否好看。谓词在桌面状态，不在模型自述。

按 AI Agent 定义，跑在 OSWorld 上的系统可以是 Agent：看屏幕或无障碍树、点鼠标、根据状态再决定。2024 年的分数说明：定义满足，能力不够。人约 72%，当时最好模型约 12%。失败分析指向 GUI grounding 与操作知识，而不只是「语言模型不够聪明」。

对后续 LLM 与 Agent 的影响

10 月 Anthropic Computer Use 报 OSWorld 截图档 14.9%（更多步数时 22.0%），就是对着这类基准说话。没有 OSWorld，Computer Use 只剩演示视频。编码线上 SWE-bench Verified 在 2024 年把分数从个位数拉到可引用；电脑操作线直到 2024 年底仍在低分区间。两条通道的信噪比不可互换：测试失败可局部重跑，GUI 点错按钮回滚成本高。不要用同一个「Agent 已经能干活」概括两条线。评测是尺子，不是 Agent。

7 - GPT-4o

OpenAI，2024-05-13 Spring Update。GPT-4o：同一模型处理文本、音频、图像；对免费用户开放更强对话。

1. 材料 — 按当时公告转述：omni、延迟、可用性。
2. 讲解 — 视觉是 GUI 的输入通道，不是点击策略；4o 仍不是循环。

当时公告：Hello GPT-4o。

7.1 - GPT-4o（材料）

本页转述 2024-05-13 公告当时公开说了什么，不以后来的 4o mini、o1 或 Operator 回填。

主要出处：OpenAI，2024-05-13，Hello GPT-4o。本页不复制公告全文。

产品主张

GPT-4o 的 o 写成 omni：一个模型跨文本、视觉、音频推理，语音到语音的响应可到约 232–320 毫秒 量级，接近人的对话节奏。能力上公告称文本与代码匹配当时的 GPT-4 Turbo，多语言、视听更好。ChatGPT 免费用户得到 GPT-4 级对话；Plus 用户限额更高。API 先放文本与视觉，音频稍后。

演示强调实时语音、看屏幕/图像、打断与语气。定价相对 GPT-4 Turbo 下调。公告同时提到安全评估与分阶段放出音频。

当时不是什么

这是对话模型与产品入口。实时看图、听声，不等于已经在操作系统里点鼠标。电脑操作、浏览器 Agent 是后续产品。4o 可以把截图当输入，循环与动作空间仍要宿主自己接。

7.2 - GPT-4o 讲解

当时解决了什么问题

GPT-4 的视觉是后加、偏慢的管道。电脑操作如果每一步都「截屏 → 另一个视觉模型 → 文本描述 → 再决策」，延迟和信息损失都大。4o 把看和说收进同一只低延迟核心，让「对着屏幕说话」变成消费级体验。对 Agent，这意味着截屏可以当一等观测，而不只是辅助插件。

它没有规定鼠标 API，也没有 OSWorld 分数。感官到位，执行器还没有。能看 ≠ 已点击：视觉是 GUI 的输入前提，不是点击策略。

对后续 LLM 与 Agent 的影响

没有「能看」，Computer Use / Operator 只能调网页 API。有了 4o（以及同时期 Claude 的视觉），看屏幕才成为产品路线。实时语音是另一条消费叙事，对任务型 Agent 的影响小于视觉。循环、浏览器、点击，是 2024 年 10 月和 2025 年 1 月才做成公测产品的。

按 AI Agent 定义，GPT-4o 本身不是 Agent。它是更强、更全能的决策核心。像素进上下文，不等于已经在 OS 进程里产生副作用。

8 - Cursor

Anysphere，Cursor。没有单一论文。2024 年上半年在开发者里把「编辑器里的 AI」做成日用品：补全、对话、改文件，人盯着 diff。

1. 材料 — 按当时产品形态转述：没有单一发布会，记下可核对的产品事实。
2. 讲解 — 早期是人在环路，不是 Devin 式全自主工人；留存往往更高。

产品：cursor.com。

8.1 - Cursor（材料）

本页转述 2024 年上半年 Cursor 作为开发者产品公开呈现的形态，不把 2024 年底 Composer、2025 年 Agent 模式回填成「上半年已经有」。

主要出处：产品本身 Cursor，以及同期开发者讨论。没有一篇与 SWE-bench 论文同级的「发布论文」。本页不复制产品文案全文。

当时能看见的产品主张

Cursor 是 VS Code 分支上的编辑器。2024 年开发者实际在用的，主要是：

• Tab 补全： 按当前文件与周围上下文建议下一编辑，人接受或改。
• 对话与行内编辑（Cmd/Ctrl+K 一类）： 用自然语言改选中代码或提问，diff 留在编辑器里由人确认。
• 代码库问答： 对当前项目提问，检索/索引帮助模型看见多文件，仍是人发起、人收场。

付费订阅、自带或自备模型密钥。宣传强调「在你写代码的地方」而不是另开一个云端工程师控制台。

当时不是什么

上半年的 Cursor 不是 Devin 那种「丢一个 issue 等它自己开 PR」的全自主云端工人。多文件自主循环（后来叫 Composer / Agent）是更晚的产品层。把 2024 年中的 Cursor 写成已经等同于 2025 年的 IDE Agent 模式，是时间错位。

8.2 - Cursor 讲解

当时解决了什么问题

Devin 把期望拉到「整份工程交给 AI」。真实开发者的日常是：在仓库里改几处、看 diff、跑测试、提交。Cursor（以及同期的 Copilot Chat）把模型嵌进这套已有动作，而不是要求人改用一个新的自主工人。人在环路：模型建议，人拍板。失败成本是一次撤销，不是一次静默的错误 PR。

按 AI Agent 定义，2024 上半年的 Cursor 大多还不是完整 Agent：Tab 补全和单轮编辑缺少「对环境行动、按反馈再决策」的长循环。它是 Agent 史里必须记的引爆，因为使用方式改变了——决策核心进了 IDE。更像 Agent 的多文件循环（后来叫 Composer / Agent）是随后加上的，不要回填成上半年已经有。

对后续 LLM 与 Agent 的影响

2025 年的 Cursor Agent、Copilot Agent Mode、Gemini CLI，都是这条「在编辑器/终端里委派」的加长版。全自主云端工程师没有消失，但日活和习惯长在人在环路这边。定义允许弱自主；这是留存先起来的形态。评测上 SWE-bench 衡量的是少人干预的闭环；产品留存衡量的是另一件事。两条尺子不要混用。

9 - Claude 3.5 Sonnet

Anthropic，2024-06-21。Claude 3.5 Sonnet：中档价、宣称超过 3 Opus。内部 agentic coding 评测 64% 对 Opus 的 38%（厂商自报）。

1. 材料 — 按当时公告转述：基准、Artifacts、价格。
2. 讲解 — 默认核心换档；6 月这一天不是 Computer Use，也不是运行时。

当时公告：Introducing Claude 3.5 Sonnet。

9.1 - Claude 3.5 Sonnet（材料）

本页转述 2024-06-21 公告当时公开说了什么，不把 10 月的 Sonnet 升级、Computer Use 或 SWE-bench Verified 49% 写进当天。

主要出处：Anthropic，2024-06-21，Introducing Claude 3.5 Sonnet。本页不复制公告全文。

产品主张

3.5 Sonnet 是 Claude 3.5 家族的第一只。公告称在一批评测上超过竞品和 Claude 3 Opus，速度与成本仍是中档（相对 Opus）。200K 窗口。价格：$3 / $15 每百万输入/输出 token。claude.ai 免费可用（Pro 限额更高）；API、Bedrock、Vertex AI 同步。

编码：内部 agentic coding 评测里，3.5 Sonnet 解决 64% 的题，Claude 3 Opus 38%。评测设定是：给自然语言描述，在开源仓库上修 bug 或加功能；配上相关工具时，模型可独立写、改、执行代码。这是厂商内部卷，不是 SWE-bench Verified。

产品侧同期推出 Artifacts：在对话旁打开一块画布，看代码、文档、图表的实时预览。面向「做出来看」而不是只出聊天气泡。

路线图：年后再放 3.5 Haiku 与 3.5 Opus；并写到在探索 Memory。

当时不是什么

这是更强的中档模型 + 聊天产品里的画布。64% 是内部 agentic 评测，不能直接当成 SWE-bench。看屏幕、点鼠标是 10 月的另一篇公告。

9.2 - Claude 3.5 Sonnet 讲解

当时解决了什么问题

3 月的 Opus 贵。GPT-4o 在 5 月把免费档智力拉高。3.5 Sonnet 用中档价做出当时许多团队愿意当成「默认核心」的编码与工具使用。内部 64% 的 agentic coding 数字告诉应用方：循环值得接在这个核心上。它没有公开 SWE-bench 全量对照，64% 是厂商内部卷。

Artifacts 把「模型写的东西」从气泡里拿出来，变成可迭代的工件。这是工作流：路径仍在产品 UI 里，人盯着画布改。还不是自主 Agent。

对后续 LLM 与 Agent 的影响

2024 年下半年大量开源脚手架和 IDE 助手默认调用 Sonnet。10 月升级后的 3.5 Sonnet 才带 Computer Use，并在 SWE-bench Verified 上自报从 33.4% 到 49.0%。6 月这一天的意义是换核心，不是换品类，更不是把看屏幕写进当天。

按 AI Agent 定义，3.5 Sonnet 本身不是 Agent。它是循环里那颗更合适的决策核心。没有它，2024 年的编码分数和后来的 Claude Code 都会换一条更贵或更弱的底。循环、停机、沙箱仍在宿主。

10 - SWE-bench Verified

OpenAI 与 SWE-bench 原作者，2024-08-13。原测试集的人工校验子集，成为此后默认完成谓词。

1. 材料 — 按当时公告转述：为什么原版有问题、500 题、GPT-4o 33.2%。
2. 讲解 — 分母变了：「几乎做不出」到「三分之一」不能当同一把尺子读。

当时公告：Introducing SWE-bench Verified。2023 年原版见 SWE-bench。

10.1 - SWE-bench Verified（材料）

本页转述 2024-08-13 公告当时公开说了什么，不把后来的 50%+ 刷榜写进当天。

主要出处：OpenAI，2024-08-13，Introducing SWE-bench Verified。与 SWE-bench 原作者合作。本页不复制公告全文。原论文见 2023 SWE-bench。

主张

SWE-bench 用真实 GitHub issue 考「给仓库和问题描述，能否改到测试通过」。到 2024-08-05，公开榜上最好 agent 在原版约 20%、SWE-bench Lite 约 43%。OpenAI 认为原测试集含有问题的题（含混、不可解、测试不足等），会低估模型能力。

SWE-bench Verified： 从原测试集抽出 500 条，经人类标注员确认「非 problematic」。公告写它取代原版 SWE-bench 与 SWE-bench Lite 作为推荐测试集。同时公开全部原测试样本的人工标注，可按难度切片：约 196 道「不到 15 分钟」的 easy，约 45 道「超过 1 小时」的 hard。

当时报的分数

用若干在原榜上表现好的开源脚手架测 GPT-4o（gpt-4o-2024-05-13）：最好脚手架在 Verified 上 33.2%，而其在原版 SWE-bench 上约 16%。公告把这读成：原数据集低估了 agent 能力。从 Lite 到 Verified 的跳变没有那么大，因为 Lite 已经滤过一轮。

当时不是什么

这不是新任务分布，是原分布上的清洗子集。33.2% 是 GPT-4o + 开源脚手架，不是「软件工程师已经能做三分之一真实工作」。公告也没有说可以和 2023 年论文里的个位数直接做减法。

10.2 - SWE-bench Verified 讲解

当时解决了什么问题

原版 SWE-bench 有不可解题、描述含混、测试与 issue 不对齐。刷榜的人会撞上「模型其实改对了、测试仍红」或「题本身坏了」。清洗之后，分数上升一部分来自考卷变好，不一定全是模型变强。OpenAI 把 Verified（500 道经确认可解）做成此后引用的默认分母，减少「20% 和 43% 各说各的子集」。GPT-4o + 开源脚手架当天最好报 33.2%，同一脚手架在原版约 16%——公告把这读成原数据集低估了能力，不是「软件工程师已经能做三分之一真实工作」。

对后续 LLM 与 Agent 的影响

2024 年底到 2025 年的编码 Agent 几乎都报 Verified。3.5 Sonnet 升级自报 49%，o1 也在这张表上走。没有 Verified，舆论会继续把 2023 全量个位数和 2024 子集双位数当成同一把尺子。分母变了，减法不成立。

它仍是「单 issue、有测试、Python 开源仓」的考卷，不是跨天、跨人、需求含糊的项目。刷 Verified 也不等于生产交付——分布、污染、脚手架都不同。按 AI Agent 定义，Verified 是完成谓词，不是 Agent。

11 - OpenAI o1

OpenAI，2024-09-12。o1-preview 与 o1-mini。用强化学习训练隐式长思考。ChatGPT Plus/Team 与部分 API。

1. 材料 — 按当时研究博文与产品说明转述：AIME、Codeforces、GPQA。
2. 讲解 — 内部 CoT 不是 ReAct；工具、沙箱、停机仍在宿主。

当时公告：Introducing OpenAI o1-preview。研究说明：Learning to reason with LLMs。

11.1 - OpenAI o1（材料）

本页转述 2024-09-12 发布当时公开说了什么，不把 12 月的正式 o1、2025 的 o3 回填进当天数字。

主要出处：OpenAI，2024-09-12，Introducing OpenAI o1-preview；Learning to reason with LLMs。本页不复制公告全文。

产品主张

新系列模型被设计成先多想再答。科学、编码、数学上比先前模型更能处理难题。当天放出系列的第一只预览：o1-preview，以及更小的 o1-mini。ChatGPT Plus 与 Team 可在模型选择器里手动选用；预览周限额最初约 30 条（o1-preview）与 50 条（o1-mini），数日后上调。可信 API 用户同期可调用。用户看不到完整内部思维链，产品展示的是摘要后的「思考」。

评测（文中报告）

研究博文用完整 o1（当时尚未全部产品化）对照 GPT-4o，并给出 o1-preview 的中间数字。强调的方向：

• AIME 2024： GPT-4o 约 13%，推理模型（完整 o1、高测试时计算）约 83%（cons@64）。
• Codeforces： 完整 o1 约第 89 百分位；o1-preview 低于完整 o1、仍明显高于 4o。
• GPQA Diamond： 完整 o1 超过人类博士准确率的叙事写在博文里（物理/化学/生物题）。

安全：在其最难的越狱测试上，o1-preview 分数远高于 GPT-4o（博文给出 84 vs 22，0–100 分）。思维链用于训练与对齐，不作为完整原文交给用户。

当时不是什么

这是新的模型系列与 ChatGPT 里的一个选项。内部思考不是 ReAct 那样写给宿主解析的 Thought 字段。没有新的工具协议，也没有宣称已经是自主 Agent。高延迟、高单价、限额，是发布时就写明的约束。

11.2 - o1 讲解

当时解决了什么问题

2022 年以来，复杂题靠 CoT、Self-Consistency、ReAct 把「想」写在明文里。宿主能看见 Thought，也能被 Thought 带沟里。o1 用强化学习在测试时花更多计算，把长思考藏进模型内部。数学与竞赛编程的跳变说明：同样的决策核心，想得久可以换正确率，而不只靠换提示词模板。延迟和费用是这笔账；限额是发布时就写明的约束。

对 Agent 搭建者，这意味着规划、自我检查不必每一步都在轨迹里写一篇小作文。代价是：每一步更贵、更慢、更难调试——用户看不到完整思路。内部思维链用于训练与对齐，不是写给宿主解析的 Thought 字段。

对后续 LLM 与 Agent 的影响

2025 年的 o3、Claude 3.7「混合推理」、各家思考模型，都沿着「测试时计算」走。编码 Agent 开始把「难步」路由到推理核心，简单步走快模型。SWE-bench Verified 上 o1-preview 后来被报到约 41%，12 月 o1 约 49%——仍是模型分，脚手架另计。

按 AI Agent 定义，o1 本身不是 Agent。它没有规定对环境行动。它是循环里一颗会花时间想的决策核心。把内部 CoT 当成已经实现 ReAct，会漏掉执行层：停机、工具、沙箱仍在宿主。换决策核心，不换品类。

12 - Claude Computer Use

Anthropic，2024-10-22。升级版 Claude 3.5 Sonnet 的 Computer Use 公测。截屏 → 光标、点击、键入。

1. 材料 — 按当时公告转述：API、OSWorld 14.9%、笨拙自陈。
2. 讲解 — 观察是像素，副作用在 GUI；2024 年完成率仍是预览级。

当时公告：Introducing computer use。

12.1 - Computer Use（材料）

本页转述 2024-10-22 公告当时公开说了什么，不把 2025 年 Operator / ChatGPT agent 回填。

主要出处：Anthropic，2024-10-22，Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku。本页不复制公告全文。

产品主张

Computer Use 以公测形式出现在 API：开发者可让 Claude 像人一样用电脑——看屏幕、移动光标、点按钮、键入。公告称 3.5 Sonnet 是第一只提供电脑使用公测的前沿模型。当时仍是实验性：有时笨拙、易错；提前放出来是为了收开发者反馈。API 在 Anthropic、Bedrock、Vertex AI。同期放出升级版 3.5 Sonnet；3.5 Haiku 将在当月稍后。

开发者把指令（例如「用电脑上和网上的数据填这张表」）交给模型，由模型译成电脑命令（开浏览器、导航、填表等）。

评测（厂商自报）

• OSWorld，仅截图档：Claude 3.5 Sonnet 14.9%；当时下一档系统约 7.8%。给更多步数时 22.0%。
• 升级后的 3.5 Sonnet 在 SWE-bench Verified 上自报从 33.4% 到 49.0%；TAU-bench 零售/航空域也有提升。这些是同一天模型升级的数字，不是 Computer Use 专用分。

公告与报道还提到滚动、拖拽、缩放等仍弱。

当时不是什么

这是给开发者的 API 与参考实现，不是消费级「替你操作整台电脑」的默认开关。14.9% 远低于 OSWorld 上的人类约 72%。厂商自己写了笨拙和易错。

12.2 - Computer Use 讲解

当时解决了什么问题

工具调用一直假设「有 API」。大量软件没有 API，只有 GUI。Computer Use 把观测改成截屏，把动作改成鼠标键盘，让没有官方接口的应用进入循环。这是「像素进、鼠标出」：副作用发生在 GUI 进程，错误不可逆、难回滚。OSWorld 已经证明这件事很难；Anthropic 把第一只公测 API 放到升级后的 3.5 Sonnet 上，并主动写低分和笨拙。

按 AI Agent 定义，这 是 Agent：LLM 决策、对环境（桌面）行动、看新截屏再决策。人仍要提供机器、权限和任务。视觉核心（GPT-4o / Claude 视觉）是输入前提，点击策略是这一层——两层不要并成「能看就会点」。

对后续 LLM 与 Agent 的影响

厂商自报 OSWorld 截图档 14.9%，更多步数时 22.0%，人对着同一张卷约 72%。编码线 2024 年 Verified 已到约一半（厂商自报）；电脑操作仍在低分区间。两条可靠度曲线不要并成一句「Agent 已经会用电脑」。

2025 年 1 月的 Operator 是这条线的产品化：Agent 自带浏览器。没有 10 月这次公测，看屏幕仍停留在论文和演示。安全问题（乱点、泄露、越权）公告已经当实验风险写了，不是后来才出现的。2024 年记下的是通道打通、谓词仍低。

13 - Model Context Protocol

Anthropic，2024-11-25。开源 MCP：规范、SDK、Claude Desktop 本地 server、若干预置连接器。

1. 材料 — 按当时公告转述：三件套、预置 server、当时可用范围。
2. 讲解 — 工具总线不管循环、不管停机；统一是 2025 的事。

当时公告：Introducing the Model Context Protocol。协议深挖见 MCP。

13.1 - MCP（材料）

本页转述 2024-11-25 公告当时公开说了什么，不把 2025 年 OpenAI / Google 追认、远程生产 server 生态写成当天事实。

主要出处：Anthropic，2024-11-25，Introducing the Model Context Protocol。本页不复制公告全文。

主张

MCP 被写成连接 AI 助手与「数据所在之处」的开放标准：内容仓库、业务工具、开发环境。目标是让前沿模型给出更相关的回答。开发者侧当天给出三件：

• 规范与 SDK
• Claude Desktop 应用里的本地 MCP server 支持
• 开源 MCP server 仓库

预置例子包括 Google Drive、Slack、GitHub、Git、Postgres、Puppeteer。公告称 Claude 3.5 Sonnet 擅长快速写出 MCP server。所有 Claude.ai 套餐可在 Desktop 上连 MCP server；Claude for Work 客户可在本地测内部系统。远程、组织级生产 server 的工具包写成「即将提供」。

架构一句话：数据源做成 MCP server，应用做成 MCP client，双向连接。演示包括 Desktop 连 GitHub 建仓并开 PR。

当时不是什么

这是规范 + Claude Desktop 本地生态 + 少量预置 server。不是跨厂商已经默认的插槽，也不是云端托管的企业总线。热度在 2024 年远低于同期的模型发布或 Devin。协议本身不执行多步循环。

13.2 - MCP 讲解

当时解决了什么问题

Function Calling 解决了「模型怎么吐出一次调用」。接什么系统，每家仍是私有 schema、私有插件、私有 OAuth。N 个模型和 M 个数据源要 N×M 套连接器。MCP 想做成 USB 式插槽：server 写一次，不同 client 都能插。它是模型↔资源的接线协议，不管谁选下一步、何时停机、副作用跑在哪台机器上。编排仍在 Desktop、后来的 Claude Code / Codex 等运行时。

2024 年真正能用的 client 主要是 Claude Desktop 本地 server。远程、组织级生产工具包写成「即将提供」。热度远低于同期的模型发布或 Devin。

按 AI Agent 定义，MCP 本身不是 Agent。它是工具总线，不是循环。

对后续 LLM 与 Agent 的影响

2025 年 3–4 月 OpenAI、Google 等宣布支持之后，这篇 11 月的规范才被追认为拐点。把 2024-11 写成「生态已经统一」，是用后来的热度回填。对照 2025 年的 MCP 被追认：当时热度 ≠ 后世重要性。A2A 后来把自己写成 MCP 的互补（接 Agent 而不是接工具），也说明 MCP 先占住了工具层这个位置。协议发布日不等于 Agent 成立日。

14 - Building effective agents

Anthropic，2024-12-19。面向开发者的实践总结：能用工作流就不要上自主循环。

1. 材料 — 按当时博文转述：定义、模式、何时用 Agent。
2. 讲解 — 图与「模型选边」必须分开；多 Agent 是拓扑，不是更强的循环原语。

当时原文：Building effective agents。

14.1 - Building effective agents（材料）

本页转述 2024-12-19 博文当时写了什么，不把 2025 年 Claude Code 运行时回填成文中已有产品。

主要出处：Anthropic，2024-12-19，Building effective agents。本页不复制全文。

主张

作者写：过去一年与数十个行业团队一起做 LLM agent，最成功的实现往往不用复杂框架或专用库，而是简单、可组合的模式。

文中把两条路分开：

• 工作流（workflows）： LLM 和工具沿预定义的代码路径编排。可预期。
• Agent： LLM 自己动态指挥过程与工具使用，掌控怎么完成任务。

建议：从简单提示词开始，用评测优化；只有更简单的方案不够用时，再加多步 agentic 系统。成功不在于最精巧，而在于对需求刚好合适。

模式（文中列举的方向）

工作流侧包括：提示链、路由、并行化、编排器–工人、评估器–优化器。Agent 侧：理解输入、规划、用工具、从错误恢复；用环境反馈（工具结果、代码执行）决定下一步；在检查点或卡住时找人；用迭代上限等作为停机条件。

例子：把简单客服问题路由到小模型（如 3.5 Haiku），难的给 Sonnet；按退款/技术支持走不同下游。

当时不是什么

这是工程博文，不是新协议、新基准或新模型。它没有宣布 Anthropic 已经做出消费级自主员工。框架被写成可选，不是禁止。

14.2 - Building effective agents 讲解

当时解决了什么问题

2023–2024 的框架营销倾向于：多 Agent、图越复杂越先进。生产里大量任务其实是固定步骤：抽字段、调两个 API、写摘要。把这些做成「自主 Agent」会多付延迟、钱和失败模式。这篇博文用厂商自己的客户实施经验，把冷水泼在「一切都上多 Agent」上。

文中切法要记死：

• 工作流： LLM 和工具沿预定义的代码路径编排。边在代码里，可预期。
• Agent： LLM 自己动态指挥过程与工具使用。边在模型输出里。

按本站定义，工作流往往不是 AI Agent：路径预写死，模型只在节点上生成。自主 Agent 才接近本站定义。两者可以组合，不要用同一个词。多 Agent 是一种拓扑，不是更强的循环原语。

对后续 LLM 与 Agent 的影响

建议写成工程顺序：先简单提示，评测不够再用多步系统。成功不在于最精巧。2025 年的 Claude Code / Codex 是厂商托管的自主循环，看起来和「少用框架」并不矛盾——循环被收进运行时，而不是让每个应用自己叠一层编排库。博文的遗产是设计原则，不是新协议或新基准。读 2024 年底的架构选择，这篇比 CrewAI / AutoGen 的发布会更接近后来留下的口味。