Google,2024-02-15。Gemini 1.5 Pro:标准 128k 窗口,私有预览可试到约 100 万 token。
当时公告:Introducing Gemini 1.5。技术报告:arXiv:2403.05530。
Google,2024-02-15。Gemini 1.5 Pro:标准 128k 窗口,私有预览可试到约 100 万 token。
当时公告:Introducing Gemini 1.5。技术报告:arXiv:2403.05530。
本页转述 2024-02-15 产品公告当时公开说了什么,不以后来的 1.5 Flash、公开定价档或 200 万窗口回填。
主要出处:Google,2024-02-15,Introducing Gemini 1.5。开发者侧:Gemini 1.5 in Google AI Studio。本页不复制公告全文。
Gemini 1.5 被写成下一代模型,长上下文是突破点。首只放出测试的是 Gemini 1.5 Pro:中等规模多模态模型,宣称在一批任务上接近当时最大的 Gemini 1.0 Ultra。架构上写了 Mixture-of-Experts(MoE)。
上下文:
用途举例(公告自己列的):一次装进较长代码库、跨长文档推理、长对话、对视频内容提问。AI Studio 当时加了多文件(如 PDF)上传。
这是模型能力与产品预览。长窗口让一次请求能看见更多文本、代码或视听,不等于系统已经在环境里多步循环。百万 token 当时仍是实验档,不是所有用户的默认。
2023 年长任务先撞窗口:16k、32k、128k 都装不下真实仓库或一小时会议。做法是检索外挂、截断、外部记忆——每一步都丢状态。Gemini 1.5 把「整份材料进一次前向」做成可买的预览档。对编码循环,这意味着少做一轮「先检索再读文件」,决策核心可以一次看见更多树。
它没有发明循环,也没有发明工具接口。私有预览、更长延迟、后来才分层计费,都说明这首先是模型产品。窗口够,仍不产生副作用。
长上下文此后成为各家标配竞赛。Agent 设计从「必须外挂记忆才能看见代码」变成「窗口够用时可以少检索」。检索没有消失:费用、延迟、注意力在超长序列上是否均匀,都还在。窗口是工作集上限,不是完成谓词。
按 AI Agent 定义,Gemini 1.5 本身不是 Agent。它是循环里那颗能一次看更多材料的决策核心。没有足够长的窗口,仓库级任务只能靠工具一点点抠;有了窗口,也不等于循环可靠,更不等于已经在环境里行动。