这是本节的多页打印视图。 点击此处打印.

返回本页常规视图.

Gemini 1.5

2024-02-15。百万 token 级窗口。轨迹的工作集上限,本身不是 Agent。

Google,2024-02-15。Gemini 1.5 Pro:标准 128k 窗口,私有预览可试到约 100 万 token。

  1. 材料 — 按当时博文转述:窗口规模、模态、预览范围。
  2. 讲解 — 窗口是工作集,不是循环;核心不是 Agent。

当时公告:Introducing Gemini 1.5。技术报告:arXiv:2403.05530。

1 - Gemini 1.5(材料)

按 2024-02-15 公告转述:百万 token 窗口、多模态、私有预览。

本页转述 2024-02-15 产品公告当时公开说了什么,不以后来的 1.5 Flash、公开定价档或 200 万窗口回填。

主要出处:Google,2024-02-15,Introducing Gemini 1.5。开发者侧:Gemini 1.5 in Google AI Studio。本页不复制公告全文。


产品主张

Gemini 1.5 被写成下一代模型,长上下文是突破点。首只放出测试的是 Gemini 1.5 Pro:中等规模多模态模型,宣称在一批任务上接近当时最大的 Gemini 1.0 Ultra。架构上写了 Mixture-of-Experts(MoE)。

上下文:

  • 默认: 128,000 token。
  • 私有预览: 有限开发者与企业客户可经 AI Studio / Vertex AI 试到 最多约 100 万 token。公告称这是当时大规模基础模型里最长的窗口;研究侧还写过测到约 1000 万 token,那不是产品默认。
  • 公告把 100 万 token 约写成:约 70 万词、约 11 小时音频、或约 1 小时视频。早期测试免费,但延迟更长;正式定价打算按窗口档位收费。

用途举例(公告自己列的):一次装进较长代码库、跨长文档推理、长对话、对视频内容提问。AI Studio 当时加了多文件(如 PDF)上传。

当时不是什么

这是模型能力与产品预览。长窗口让一次请求能看见更多文本、代码或视听,不等于系统已经在环境里多步循环。百万 token 当时仍是实验档,不是所有用户的默认。

2 - Gemini 1.5 讲解

窗口是轨迹的工作集上限。看见更多代码,不等于已经在环境里行动。

当时解决了什么问题

2023 年长任务先撞窗口:16k、32k、128k 都装不下真实仓库或一小时会议。做法是检索外挂、截断、外部记忆——每一步都丢状态。Gemini 1.5 把「整份材料进一次前向」做成可买的预览档。对编码循环,这意味着少做一轮「先检索再读文件」,决策核心可以一次看见更多树。

它没有发明循环,也没有发明工具接口。私有预览、更长延迟、后来才分层计费,都说明这首先是模型产品。窗口够,仍不产生副作用。

对后续 LLM 与 Agent 的影响

长上下文此后成为各家标配竞赛。Agent 设计从「必须外挂记忆才能看见代码」变成「窗口够用时可以少检索」。检索没有消失:费用、延迟、注意力在超长序列上是否均匀,都还在。窗口是工作集上限,不是完成谓词。

按 AI Agent 定义,Gemini 1.5 本身不是 Agent。它是循环里那颗能一次看更多材料的决策核心。没有足够长的窗口,仓库级任务只能靠工具一点点抠;有了窗口,也不等于循环可靠,更不等于已经在环境里行动。