这是本节的多页打印视图。 点击此处打印.

返回本页常规视图.

Aries

2026-07。Agent 云负载是轨迹,不是微服务请求。问题重构先于新调度器。

Rethinking AI Cloud Infrastructure for Agentic Serving Systems。Aries:把智能体轨迹当一等观测单元的实验框架。

  1. 论文 — 按原文转述:轨迹、测量鸿沟、三项发现。
  2. 讲解 — 一次委派是轨迹;请求级 LLM 指标会看错关键路径。

原文与本站译本:Aries 资料栏。

1 - Aries(论文)

按原文转述:智能体轨迹、测量鸿沟、以 Token 为中心的指标为何不够。

Rethinking AI Cloud Infrastructure for Agentic Serving Systems(Aries)。约 2026-07-31 公开。本站中文译本:中文。HTML/PDF 以 资料介绍 为准。


摘要

自主 agent 把重复推理与持久上下文、沙箱化工具执行结合在一起,对传统 LLM 服务构成新挑战。论文提出 Aries:全栈实验框架——把任务语义与执行配置分离;用关联的系统遥测重建跨组件智能体轨迹;在异构沙箱基底上用一致接口暴露有状态工具执行。实验用开源平台与基准,并补上商业平台的生产轨迹(匿名)。主要发现写成:

  1. 以 Token 为中心的指标会遗漏非推理瓶颈(harness 与工具可占端到端延迟很大一块,文中举例可高达约 48%)。
  2. 多留上下文的精度收益递减,同时降低服务容量。
  3. 工具沙箱在长时间空闲与短时资源突发之间交替;想靠激进挂起省资源,会被恢复成本吃掉。

安全分析强调缩小沙箱攻击面。愿景:轨迹级指标、自适应上下文管理、弹性沙箱、攻击面最小化。

问题重构

传统 LLM 服务优化单次模型调用(TTFT、每 token 时间)。Agent 服务里,一次用户请求跨许多相互依赖的模型步与工具步。论文把 智能体轨迹 定义为:服务该请求过程中 LLM 调用、工具调用、工具结果、harness 决策的有序序列。测量必须把任务进度和跨层运行时行为连起来;既有能力基准与系统基准都只覆盖一半。

Aries 用任务规格 vs 执行规格分离、跨层事件 ID、与基底无关的工具接口,来做受控对比和失败归因。

当时不是什么

这是测量框架与问题定义,不是已经换完的新云底盘。生产数字来自匿名轨迹与受控复现,不要读成某一家公开 SLA。

2 - Aries 讲解

一次委派是轨迹:推理、工具、沙箱、KV,不是微服务式请求。基础设施第一次成为 Agent 史主线。

论文解决了什么问题

2025 年运行时把循环做成产品,公开讨论仍停在 SWE-bench 和演示。Aries 指出:GPU 解码变快,任务仍可能卡在 harness、工具和闲置沙箱。用请求级 LLM 指标管 Agent 服务,会看错关键路径——一次委派跨多次推理、工具调用、沙箱生命周期和 KV 状态,观测单元必须是轨迹,不是 QPS。把轨迹当一等公民,才能问「这一步为什么没推进」。

按定义论文研究的是 已经在转的 Agent 如何被云基础设施拖住或放大,不是新的决策算法。编排库解决不了存储、隔离和上下文税。

对后续 LLM 与 Agent 的影响

Tag 文档里的短暂沙箱(建、干、闲、释放)与这篇的「空闲但突发」互相印证:产品已经撞上论文写的负载。SpecBox 走调度优化;Aries 走测量与问题重构。两者都说明 2026 年主矛盾外移:不是再涨 5 分基准,而是执行路径是否跟得上异步委派。文中用 SWE-Bench Pro、OpenClaw 一类 harness 当负载,不是偶然。愿景项(弹性沙箱、最小攻击面)不要当成业界已经换完的底盘。