Rethinking AI Cloud Infrastructure for Agentic Serving Systems。Aries:把智能体轨迹当一等观测单元的实验框架。
原文与本站译本:Aries 资料栏。
Rethinking AI Cloud Infrastructure for Agentic Serving Systems(Aries)。约 2026-07-31 公开。本站中文译本:中文。HTML/PDF 以 资料介绍 为准。
自主 agent 把重复推理与持久上下文、沙箱化工具执行结合在一起,对传统 LLM 服务构成新挑战。论文提出 Aries:全栈实验框架——把任务语义与执行配置分离;用关联的系统遥测重建跨组件智能体轨迹;在异构沙箱基底上用一致接口暴露有状态工具执行。实验用开源平台与基准,并补上商业平台的生产轨迹(匿名)。主要发现写成:
安全分析强调缩小沙箱攻击面。愿景:轨迹级指标、自适应上下文管理、弹性沙箱、攻击面最小化。
传统 LLM 服务优化单次模型调用(TTFT、每 token 时间)。Agent 服务里,一次用户请求跨许多相互依赖的模型步与工具步。论文把 智能体轨迹 定义为:服务该请求过程中 LLM 调用、工具调用、工具结果、harness 决策的有序序列。测量必须把任务进度和跨层运行时行为连起来;既有能力基准与系统基准都只覆盖一半。
Aries 用任务规格 vs 执行规格分离、跨层事件 ID、与基底无关的工具接口,来做受控对比和失败归因。
这是测量框架与问题定义,不是已经换完的新云底盘。生产数字来自匿名轨迹与受控复现,不要读成某一家公开 SLA。
2025 年运行时把循环做成产品,公开讨论仍停在 SWE-bench 和演示。Aries 指出:GPU 解码变快,任务仍可能卡在 harness、工具和闲置沙箱。用请求级 LLM 指标管 Agent 服务,会看错关键路径——一次委派跨多次推理、工具调用、沙箱生命周期和 KV 状态,观测单元必须是轨迹,不是 QPS。把轨迹当一等公民,才能问「这一步为什么没推进」。
按定义论文研究的是 已经在转的 Agent 如何被云基础设施拖住或放大,不是新的决策算法。编排库解决不了存储、隔离和上下文税。
Tag 文档里的短暂沙箱(建、干、闲、释放)与这篇的「空闲但突发」互相印证:产品已经撞上论文写的负载。SpecBox 走调度优化;Aries 走测量与问题重构。两者都说明 2026 年主矛盾外移:不是再涨 5 分基准,而是执行路径是否跟得上异步委派。文中用 SWE-Bench Pro、OpenClaw 一类 harness 当负载,不是偶然。愿景项(弹性沙箱、最小攻击面)不要当成业界已经换完的底盘。