sandbox：AI Agent Infra的关键一站
sandbox：AI Agent Infra的关键一站
sandbox：AI Agent Infra的关键一站 sandbox：AI Agent Infra的关键一站 Modified May 13, 2025 📌 同时云厂商、操作系统厂商们也都在积极拥抱GUI Agent及MCP的Agent生态：阿里云无影的AgentBay——第一款国产云电脑MCP服务，微软研究团队近日也开源了业内首个深度集成 Windows 操作系统的桌面智能体平台 ——UFO² AgentOS。 我们可以观察到两点： 1. Agent创业团队都有自己的应用逻辑和哲学，比如“Less structure more intelligence”围绕智能主线提升、外挂Voice Agent及对于输出工程化沿途满足一些场景需求。 2. Agent Infra 自己多大程度使用外部方案（Manus 和 BrowserUse、E2B）多大程度自建或定制化（Suna、DeepAgent 的无头浏览器进行了操作系统级别的隔离）并不是硬币的两面，很多情况下是Hybrid的。根据自身feature选择方案和服务也是一个Agent的必选项。 本文参考E2B等Agent infra公司的材料，也整合了一些外部信息，希望能够简单讲明白沙盒如何在Agent系统中运行，未来也会有关于Agent infra的更多文章。 先来看看沙盒的定义，经常被混用的有：虚拟机、docker。 “ 沙盒（Sandbox） ”是一个广义的概念， 不是某一项具体技术，而是一类安全隔离机制 ，用来控制一个程序或代码的运行范围，防止它访问、篡改、破坏系统之外的资源。 GPT给了个不一定完全精准的比喻：我拥有一台主机我就拥有了一套房子的房产证，虚拟机 = 你租了一整栋房子（系统级隔离），Docker = 你在自己买的房子里租了一个隔音良好起居环境（共享某些设施，但有自己的空间），沙盒 = 你在一个房间里活动，但只能用特定道具（功能被严格限制）。 但实际上，上面提到的虚拟机启动速度慢也是个相对的概念，新一代轻量化 VM 技术通过优化启动流程和精简镜像，达到了秒级甚至毫秒级响应。 这里展开说一下：云服务平台（如 AWS、Azure、阿里云）采用了 提前准备好 VM 快照或“warm pool” 的方式： • 预创建 VM 快照 → 快速克隆 • 最小内核 + initrd → 极快内核加载 • 冷启动优化（Cold Start Optimization） → 把常用模块装载进缓存 现代云平台可以从“预设快照”或“冻结镜像”中恢复 VM 状态，省去了完整启动流程。（有没有点毛坯房的意思） 今天我们的目标公司 E2B（Environment to Bot） 则是打造了一套专为 AI Agents 提供可控执行环境（沙盒容器或虚拟机）的云基础设施。在过去的两年里，越来越多的公司依靠E2B构建产品： • 运行数据分析和制图（例如 Perplexity） • 执行由模型生成的任意代码（例如 Manus 所做的） • 在代码生成上进行评估（参见 LMArena Web） • 进行强化学习以提升代码能力（例如 HuggingFace） 虽然LLM的进展，LLM+E2B的方法也在迭代： • 2023 年：人工智能工程师使用 E2B 将code interpreter集成到他们的产品中 • 2024：E2B 为生成式界面和 vibe coding提供infra • 2025：AI Agent使用 E2B 管理虚拟计算机，运行代码并将结果返回给用户 DevBook→E2B：把“交互式文档”魔改成“云端沙盒” 为什么说“E2B广义的沙盒 ≠ Docker ≠ 虚拟机” E2B带来的三个新体验 • Code‑Interpreter 2.0 用户希望一句话能得到sql、图表。或者：Perplexity Pro中的服务把PDF转图表。这一过程的体验提升。 新体验是这样的端到端： 自然语言→Python→GPU 加速沙盒执行/隐藏 Jupyter Runtime， 外部只暴露 /execute API → LLM 得到执行结果（DataFrame/图像 bytes）→ 再转成 markdown 图表或 base64 图片回复给终端 → LLM 发现 N 秒 任务自动 sandbox.fork (async=True)，主线程先返回“已开始计算”，完成后通过 WebSocket 或邮件回结果。（最有体感的好处是 GPU 只在需时动态挂载和前端不用嵌 Jupyter。 • Deep research/ 强化学习 Loop ——“让模型自己跑单元测试给自己打分” 训练 Open‑R1 这类代码大模型时，研究者需要 把生成的代码真跑一遍 ，拿到 pass/fail 当 reward 信号。 Hugging Face 在最新博文中公开：一次 GRPO 训练要并发 上千个沙盒 ，否则 GPU 只能干等 典型流水线中，E2B的方案可以做到： 1. CPU “海跑”代码 • 每题单开沙盒，装依赖、跑 pytest；CPU 密集但便宜。 • GPU 只做前向 / 反向；资源利用率可提升 ≈30% (官方案例) 。 2. Checkpoint / Fork 带来的 MCTS（蒙特卡洛增强推理） • 每当模型写到关键节点，sandbox.checkpoint() 保存快照。 • RL 搜索不同实现；失败后 sandbox.restore(id) 回到干净状态—— 本地状态不重放 ，极大降低随机性。 3. 安全隔离 • LLM 若误删 /home/ubuntu/.ssh 只炸掉本沙盒；主训练集群权限无损。 • Computer Use（GUI/Headless 双方案）——“让 Agent 点开 Excel，他能真点” 1. E2B Desktop Sandbox • 基于 Ubuntu 22.04 + XFCE；通过 QEMU + KVM 轻量虚拟化，默认 2 CPU/2 GB，可热扩容 。 • VNC 端口自动映射到 WebRTC，让前端直接 iframe 渲染。 2. Anthropic “computer” tool 接口 • Claude 发起 open app, click, type, screenshot 等动作，由代理层翻译成 xdotool、dbus 操作 。 • 这与 E2B 桌面沙盒一拍即合——仓库里早就有完整 Desktop 镜像，官方在 Claude API 公布当周就“解封”给客户试用。 3. Example: Surf 项目 • 开源 Demo：Next.js 前端 + E2B Desktop Sandbox + OpenAI Computer Use，将“搜索图→保存到 PPT”全流程自动化。 最后这个case也回答了很多长程任务，GUI + headless browser 混合 action 才能实现精准的任务场景与 E2B 服务完美契合。 Agent时代，大家如何做操作系统？ E2B设想中，通过他们的路径：用户只需告诉 LLM “帮我写 2025 年 ESG 年报，数据用上周 ERP dump，图表三折线一饼图。” 路径：LLM → 调 MCP E2B Sandbox + GPU → 调 Stagehand 浏览数据源 → 生成报告 →发 Email。 人没开机主机/终端，也没付费闲置 GPU，这看上去更加逼近“最终形态”。 两个E2B的思路 • mcp.e2b.dev 思路：Agent 登录即开沙盒，状态存 30 天。 • 高阶 MCP 服务 裸 sandbox 服务：普通终端用户关心“写份年报”不关心如何运转 Fun fact: LangChain 下载量依旧月 2000 万，“不火”是错觉 “Chat Completion 正在老去，Streaming Reasoning 刚刚青春。” ——播客里 Swyx 的一句话，讲出了 Agent Infra 的尴尬（流式推理对下游 infra 提出了更高要求：需中断/恢复、中途插沙盒） 如果未来交互不是 Chat UI，而是 Agent‑to‑Agent 的舞台， 那沙盒才是这个剧场里唯一不会换景的硬件。 📌 同时云厂商、操作系统厂商们也都在积极拥抱GUI Agent及MCP的Agent生态：阿里云无影的AgentBay——第一款国产云电脑MCP服务，微软研究团队近日也开源了业内首个深度集成 Windows 操作系统的桌面智能体平台 ——UFO² AgentOS。 我们可以观察到两点： 1. Agent创业团队都有自己的应用逻辑和哲学，比如“Less structure more intelligence”围绕智能主线提升、外挂Voice Agent及对于输出工程化沿途满足一些场景需求。 2. Agent Infra 自己多大程度使用外部方案（Manus 和 BrowserUse、E2B）多大程度自建或定制化（Suna、DeepAgent 的无头浏览器进行了操作系统级别的隔离）并不是硬币的两面，很多情况下是Hybrid的。根据自身feature选择方案和服务也是一个Agent的必选项。 本文参考E2B等Agent infra公司的材料，也整合了一些外部信息，希望能够简单讲明白沙盒如何在Agent系统中运行，未来也会有关于Agent infra的更多文章。 同时云厂商、操作系统厂商们也都在积极拥抱GUI Agent及MCP的Agent生态：阿里云无影的AgentBay——第一款国产云电脑MCP服务，微软研究团队近日也开源了业内首个深度集成 Windows 操作系统的桌面智能体平台 ——UFO² AgentOS。 我们可以观察到两点： 1. Agent创业团队都有自己的应用逻辑和哲学，比如“Less structure more intelligence”围绕智能主线提升、外挂Voice Agent及对于输出工程化沿途满足一些场景需求。 2. Agent Infra 自己多大程度使用外部方案（Manus 和 BrowserUse、E2B）多大程度自建或定制化（Suna、DeepAgent 的无头浏览器进行了操作系统级别的隔离）并不是硬币的两面，很多情况下是Hybrid的。根据自身feature选择方案和服务也是一个Agent的必选项。 本文参考E2B等Agent infra公司的材料，也整合了一些外部信息，希望能够简单讲明白沙盒如何在Agent系统中运行，未来也会有关于Agent infra的更多文章。 先来看看沙盒的定义，经常被混用的有：虚拟机、docker。 “ 沙盒（Sandbox） ”是一个广义的概念， 不是某一项具体技术，而是一类安全隔离机制 ，用来控制一个程序或代码的运行范围，防止它访问、篡改、破坏系统之外的资源。 GPT给了个不一定完全精准的比喻：我拥有一台主机我就拥有了一套房子的房产证，虚拟机 = 你租了一整栋房子（系统级隔离），Docker = 你在自己买的房子里租了一个隔音良好起居环境（共享某些设施，但有自己的空间），沙盒 = 你在一个房间里活动，但只能用特定道具（功能被严格限制）。 但实际上，上面提到的虚拟机启动速度慢也是个相对的概念，新一代轻量化 VM 技术通过优化启动流程和精简镜像，达到了秒级甚至毫秒级响应。 这里展开说一下：云服务平台（如 AWS、Azure、阿里云）采用了 提前准备好 VM 快照或“warm pool” 的方式： • 预创建 VM 快照 → 快速克隆 • 最小内核 + initrd → 极快内核加载 • 冷启动优化（Cold Start Optimization） → 把常用模块装载进缓存 现代云平台可以从“预设快照”或“冻结镜像”中恢复 VM 状态，省去了完整启动流程。（有没有点毛坯房的意思） 今天我们的目标公司 E2B（Environment to Bot） 则是打造了一套专为 AI Agents 提供可控执行环境（沙盒容器或虚拟机）的云基础设施。在过去的两年里，越来越多的公司依靠E2B构建产品： • 运行数据分析和制图（例如 Perplexity） • 执行由模型生成的任意代码（例如 Manus 所做的） • 在代码生成上进行评估（参见 LMArena Web） • 进行强化学习以提升代码能力（例如 HuggingFace） 虽然LLM的进展，LLM+E2B的方法也在迭代： • 2023 年：人工智能工程师使用 E2B 将code interpreter集成到他们的产品中 • 2024：E2B 为生成式界面和 vibe coding提供infra • 2025：AI Agent使用 E2B 管理虚拟计算机，运行代码并将结果返回给用户 DevBook→E2B：把“交互式文档”魔改成“云端沙盒” 为什么说“E2B广义的沙盒 ≠ Docker ≠ 虚拟机” E2B带来的三个新体验 • Code‑Interpreter 2.0 用户希望一句话能得到sql、图表。或者：Perplexity Pro中的服务把PDF转图表。这一过程的体验提升。 新体验是这样的端到端： 自然语言→Python→GPU 加速沙盒执行/隐藏 Jupyter Runtime， 外部只暴露 /execute API → LLM 得到执行结果（DataFrame/图像 bytes）→ 再转成 markdown 图表或 base64 图片回复给终端 → LLM 发现 N 秒 任务自动 sandbox.fork (async=True)，主线程先返回“已开始计算”，完成后通过 WebSocket 或邮件回结果。（最有体感的好处是 GPU 只在需时动态挂载和前端不用嵌 Jupyter。 • Deep research/ 强化学习 Loop ——“让模型自己跑单元测试给自己打分” 训练 Open‑R1 这类代码大模型时，研究者需要 把生成的代码真跑一遍 ，拿到 pass/fail 当 reward 信号。 Hugging Face 在最新博文中公开：一次 GRPO 训练要并发 上千个沙盒 ，否则 GPU 只能干等 典型流水线中，E2B的方案可以做到： 1. CPU “海跑”代码 • 每题单开沙盒，装依赖、跑 pytest；CPU 密集但便宜。 • GPU 只做前向 / 反向；资源利用率可提升 ≈30% (官方案例) 。 2. Checkpoint / Fork 带来的 MCTS（蒙特卡洛增强推理） • 每当模型写到关键节点，sandbox.checkpoint() 保存快照。 • RL 搜索不同实现；失败后 sandbox.restore(id) 回到干净状态—— 本地状态不重放 ，极大降低随机性。 3. 安全隔离 • LLM 若误删 /home/ubuntu/.ssh 只炸掉本沙盒；主训练集群权限无损。 • Computer Use（GUI/Headless 双方案）——“让 Agent 点开 Excel，他能真点” 1. E2B Desktop Sandbox • 基于 Ubuntu 22.04 + XFCE；通过 QEMU + KVM 轻量虚拟化，默认 2 CPU/2 GB，可热扩容 。 • VNC 端口自动映射到 WebRTC，让前端直接 iframe 渲染。 2. Anthropic “computer” tool 接口 • Claude 发起 open app, click, type, screenshot 等动作，由代理层翻译成 xdotool、dbus 操作 。 • 这与 E2B 桌面沙盒一拍即合——仓库里早就有完整 Desktop 镜像，官方在 Claude API 公布当周就“解封”给客户试用。 3. Example: Surf 项目 • 开源 Demo：Next.js 前端 + E2B Desktop Sandbox + OpenAI Computer Use，将“搜索图→保存到 PPT”全流程自动化。 最后这个case也回答了很多长程任务，GUI + headless browser 混合 action 才能实现精准的任务场景与 E2B 服务完美契合。 Agent时代，大家如何做操作系统？ E2B设想中，通过他们的路径：用户只需告诉 LLM “帮我写 2025 年 ESG 年报，数据用上周 ERP dump，图表三折线一饼图。” 路径：LLM → 调 MCP E2B Sandbox + GPU → 调 Stagehand 浏览数据源 → 生成报告 →发 Email。 人没开机主机/终端，也没付费闲置 GPU，这看上去更加逼近“最终形态”。 两个E2B的思路 • mcp.e2b.dev 思路：Agent 登录即开沙盒，状态存 30 天。 • 高阶 MCP 服务 裸 sandbox 服务：普通终端用户关心“写份年报”不关心如何运转 Fun fact: LangChain 下载量依旧月 2000 万，“不火”是错觉 “Chat Completion 正在老去，Streaming Reasoning 刚刚青春。” ——播客里 Swyx 的一句话，讲出了 Agent Infra 的尴尬（流式推理对下游 infra 提出了更高要求：需中断/恢复、中途插沙盒） 如果未来交互不是 Chat UI，而是 Agent‑to‑Agent 的舞台， 那沙盒才是这个剧场里唯一不会换景的硬件。 “Chat Completion 正在老去，Streaming Reasoning 刚刚青春。” ——播客里 Swyx 的一句话，讲出了 Agent Infra 的尴尬（流式推理对下游 infra 提出了更高要求：需中断/恢复、中途插沙盒） 如果未来交互不是 Chat UI，而是 Agent‑to‑Agent 的舞台， 那沙盒才是这个剧场里唯一不会换景的硬件。 🔗 原文链接： https://mp.weixin.qq.com/s/M1ceijF3... https://mp.weixin.qq.com/s/M1ceijF3... 原创 k thinkingloop2025年05月13日 02:19 北京 如今炙手可热的Agent（General Agent为主）都有自己可以操作的终端，除了终端、环境、工具，还需要为Agent设计的一整套Agent infra，这其中：沙盒就是一个绕不开的话题。我们能看到Manus、Genspark等多款产品里面都依赖沙盒环境进行执行，之前 OpenDevin(Openhands）团队也有ubuntu环境下的docker容器。