这是本节的多页打印视图。 点击此处打印.

返回本页常规视图.

Devin

2024-03-12。Cognition 把「AI 软件工程师」做成品类口号。热度远高于当时可复现的完成率。

Cognition,2024-03-12。Devin:带 shell、编辑器、浏览器的沙箱,宣称端到端修 GitHub issue。私有预览。

  1. 材料 — 按当时博文与随后技术说明转述:产品形态、SWE-bench 子集数字。
  2. 讲解 — 品类引爆与独立评测必须分开写;13.86% 是子集自报。

当时公告:Introducing Devin。评测说明:SWE-bench technical report。

1 - Devin(材料)

按 2024-03 公告转述:沙箱工程师叙事与 SWE-bench 子集成绩。

本页转述 2024-03-12 产品公告与 03-15 评测说明当时公开说了什么,不以后来的 Devin 2、定价或收购传闻回填。

主要出处:Cognition,Scott Wu,2024-03-12,Introducing Devin, the first AI software engineer;Cognition Team,2024-03-15,SWE-bench technical report。补丁与评测脚本:CognitionAI/devin-swebench-results。本页不复制公告全文。


产品主张

Devin 被写成「第一个 AI 软件工程师」:在自己的沙箱里有 shell、代码编辑器和浏览器,能规划并执行多步编程任务。演示包括:读文档学陌生框架、搭应用、修开源仓库的 bug、做 Upwork 上的真实单。用户用自然语言下任务,在界面里看它逐步干活。当时是私有预览,需申请。

SWE-bench 数字(厂商自己报的)

评测用 2023 年的 SWE-bench:真实 GitHub issue,用单元测试判定是否修好。

  • 评测集是测试集的随机 25%(570 / 2,294 题),理由是跑完全量太慢——原论文作者也用过同类抽样。
  • Devin 端到端、unassisted(不事先告诉要改哪些文件)解决 79 / 570,即 13.86%。
  • 对照:当时公开的 unassisted 基线最高约 1.96%(Claude 2 + BM25 检索);即便 assisted(告诉要改的文件),最好的先前模型约 4.80%(Claude 2)。
  • Cognition 写明:agent 设定(整仓可导航)与 assisted / unassisted 检索设定不是严格同口径;他们仍用更强的基线数字做图。

当时不是什么

这不是开源系统,也不是全量 SWE-bench 的第三方复现。13.86% 是厂商在子集上的自报。产品叙事是「软件工程师」,交付形态是带人监看界面的云端预览。

2 - Devin 讲解

「AI 软件工程师」成为品类。按定义是弱自主 Agent;热度不等于独立评测上的完成率。

当时解决了什么问题

2023 年 AutoGPT 证明舆论要「给一个目标让它自己转」。编码这条线缺一个能看懂的产品:不是补全下一行,而是在仓库里设环境、复现、改代码、跑测试。Devin 把 Copilot 式副驾驶叙事推成「整份工作交给它」。SWE-bench 给了它一个可以引用的数字,而不只是演示视频。

按 AI Agent 定义,Devin 是 Agent:LLM 决策、在沙箱里行动、看测试与终端回执再决定。自主度高于 IDE 里的补全,仍有人下任务、看过程、收 PR——弱自主,不是无人值守员工。

对后续 LLM 与 Agent 的影响

「AI 软件工程师」从此变成品类名。Cursor、SWE-agent、OpenHands、后来的 Claude Code / Codex,都要在这条舆论里表态:全自主云端,还是人在环路的编辑器。Devin 的演示把期望拉到「能上岗」。

13.86% 要连着读:570 / 2,294 题,不是全量;厂商自报;agent 设定与当时公开的 assisted / unassisted 检索基线不是严格同口径;独立复现当时稀缺。热度像 2023 年的 AutoGPT——定义话题,不定义上限。人在环路的 IDE 助手往往更早上日常,留存也更高。引爆型事件要等第三方完成谓词;这一页记下的是口号先于尺子。