GPT-4o 讲解

视听进同一只对话模型。像素可以当一等观测;点击策略仍在宿主。模型不是 Agent。

当时解决了什么问题

GPT-4 的视觉是后加、偏慢的管道。电脑操作如果每一步都「截屏 → 另一个视觉模型 → 文本描述 → 再决策」,延迟和信息损失都大。4o 把看和说收进同一只低延迟核心,让「对着屏幕说话」变成消费级体验。对 Agent,这意味着截屏可以当一等观测,而不只是辅助插件。

它没有规定鼠标 API,也没有 OSWorld 分数。感官到位,执行器还没有。能看 ≠ 已点击:视觉是 GUI 的输入前提,不是点击策略。

对后续 LLM 与 Agent 的影响

没有「能看」,Computer Use / Operator 只能调网页 API。有了 4o(以及同时期 Claude 的视觉),看屏幕才成为产品路线。实时语音是另一条消费叙事,对任务型 Agent 的影响小于视觉。循环、浏览器、点击,是 2024 年 10 月和 2025 年 1 月才做成公测产品的。

按 AI Agent 定义,GPT-4o 本身不是 Agent。它是更强、更全能的决策核心。像素进上下文,不等于已经在 OS 进程里产生副作用。