总结

观点:

AI 的能力越来越强, 其通过代码来处理数据和生成数据的能力也越来越强, 因此需要提供一个解决方案来执行 AI 生成的代码, 这个代码执行环境有以下几个要求:

• 多语言: 支持执行各种编程语言的代码, 支持被各种编程语言调用
• 轻量级: 能够快速启动和运行, 资源消耗低,
• 可扩展性 Scalability: 支持无缝扩展, 支持启动大量实例,处理海量请求
• 安全性: 代码都在完全隔离的环境中运行，防止任何潜在的安全风险, 避免恶意代码的执行
• 可靠性 Reliability: 一致的执行环境确保可预测的结果

高级特性:

• 可定制: 支持镜像定制化, 可安装依赖包, 文件交互, 可配置环境
• GPU: 支持 GPU 加速, CUDA 编程
• 持久化:暂停和恢复沙盒会话
• 简单集成

实现:

• E2B: 使用 firacker, 子托管
• Modal: 使用 gVisor, 云端托管

常见业务场景:

• 简单执行代码: 包括 AI 生成的代码, 用户生成的代码
• 和 AI 模型交互: 支持 AI function calling (tools call)
• 数据分析, 图表处理, 可视化
• web scraper: 爬取网页数据, 处理数据, 生成数据
• 使用 GPU 在沙箱内生成文本和图片

重要使用案例:

• Groq Compound Beta: 将 LLM 与搜索网络和执行代码的能力相结合的复合 AI 系统, 使用 e2b 大规模运行代码执行, 将大型语言模型的推理能力与现实世界的交互能力相结合

• Lindy AI : 直接在工作流中执行自定义代码, 弥合了可视化工作流构建器与自定义代码灵活性之间的差距

• Manus: 由多个 Agent 组成的复杂编排系统, 依赖 e2b 安全和大规模的运行不受信任的代码

• Hugging Face: Open R1 项目使用 e2b 执行 LLM 生成的代码, 进行可验证奖励的强化学习

补充材料

Security 安全性 ：每段代码都在完全隔离的环境中运行，防止任何潜在的安全风险 Speed: 速度 ：E2B 沙箱快速启动，保持 Groq 的性能优势 Scalability 可扩展性 ：AI 系统可无缝扩展，以处理数千个并发请求 Reliability 可靠性 ：一致的执行环境确保可预测的结果