DeepSeek首次公开V4.1 Agent训练基础设施DSec：高密度沙盒与按需加载技术解析

事件概述

近日，DeepSeek在知乎独家发布技术长文，并联合清华大学将技术报告《DeepSeek弹性计算（DSec）：面向大规模智能体训练的高效沙箱基础设施》公开至arXiv。文章由超过130人的团队撰写，梁文锋位列作者之中。DSec是支撑DeepSeek-V4全部训练、评测与数据预处理流程的核心沙盒基础设施，旨在解决Agent大模型在真实环境中反复试错时面临的环境状态保留、高并发创建及资源隔离等挑战。

核心信息

1. 统一接入与多样化执行后端

针对Agent任务对隔离强度、操作系统功能及执行开销的不同需求，DSec支持四种执行后端，并通过统一的Python SDK（libdsec）进行接入：

• FnCall：复用预先创建的容器，适用于在线评测等短任务。
• Container：具备启动速度快、部署密度高的特点，服务于通用的软件工程和工具调用场景。
• MicroVM：提供更强的隔离边界，适用于安全敏感任务。
• Full VM：提供完整的操作系统环境，支持图形界面、渲染及Android应用。

2. 分层可组合的环境架构

为解决传统方式中基础镜像、工作区或工具包更新导致大量重建的问题，DSec将沙盒环境拆分为三部分独立管理：

• 基础镜像（Base Image）：包含操作系统与基础软件。
• 工作区（Workspace）：包含任务所需的代码仓库与依赖。
• 工具包（Toolkit）：如DeepSeek Harness等。

三者均采用EROFS格式存储，支持元数据与数据分离及跨镜像去重。运行时通过OverlayFS按需组合各层。当某一部分需要更新时，仅需重建发生变化的EROFS镜像，从而大幅减少无关内容的重复构建。以2026年某一周生产数据为例，容器后端使用了11,266个基础镜像和102,171个工作区，该机制有效降低了维护成本。

3. 镜像按需加载优化I/O开销

分析显示，沙盒运行时实际访问的数据量仅占镜像总大小的4.2%至13.3%。DSec将镜像数据存储在3FS分布式文件系统上，本地仅拉取EROFS元数据，大数据块按需读取。实验表明：

• 在集中创建8,192个容器的场景中，相比完整镜像拉取，按需加载将任务完成时间从60多分钟缩短至约35分钟（加速比1.71），磁盘写入量减少约57%。
• 在工作区供给实验中，直接挂载EROFS层替代解压tar.gz文件，使任务完成时间从79分钟缩短至45分钟，磁盘写入总量降至原来的约1/5.5。

4. 高密度资源管理与调度

Agent训练负载具有“CPU闲置率高、内存需持续驻留”的特点。约90%的沙盒平均CPU用量不超过申请量的5%，但内存必须保留状态。基于此，DSec实现了超过50倍的内存超卖率，并通过以下机制优化资源使用：

• 共享缓存与内存回收：利用virtio-pmem与DAX技术实现宿主页缓存共享，使峰值内存用量下降40.2%；结合DAMON与balloon空闲页报告机制，使累计内存消耗下降21.2%。
• CPU调度优化：优先保障时延敏感任务，利用空闲资源运行宽松任务，并通过核心调度减少超线程干扰。实验显示，当同机其他任务占用50% CPU时，优化后时延敏感任务的时延增幅由45.2%降至17.3%。

5. 轨迹执行与GPU训练解耦

从DeepSeek-V4.1开始，DSec将强化学习中的轨迹执行（rollout）逻辑迁移至沙盒内部，拆分为Agent沙盒和工作容器协同完成，二者均部署在可被抢占的GPU资源池之外。这一设计确保了当GPU训练任务因资源抢占而中断时，Agent的执行状态和环境状态得以完整保留，恢复后可从中断处继续执行，简化了复杂的日志重放与状态衔接逻辑。

6. 自动化环境构建与安全边界

• 用Agent构建Agent环境：DSec引入pack_diff增量快照机制，允许Agent指挥平台保存沙盒状态的增量快照。这不仅简化了系统架构，还实现了轨迹分叉——在第k步保存快照并恢复出多个沙盒并行探索，分支间共享只读层，避免重复执行。
• 安全防御：针对Agent可能出现的读取残留答案、伪造RPC、注入命令等行为，DSec实施细粒度访问控制。通过AppArmor约束文件读写和套接字访问，即使智能体以管理员身份运行也受限制；通过eBPF为每个沙盒设置网络访问白名单，限制连接地址、端口和协议。

生产数据与规模

DSec采用分片形式横向扩展，单个分片约含160台服务器，提供约3万个CPU核心和250TB内存。其性能指标如下：

• 日处理量：单个分片每天服务约300万个沙盒。
• 并发能力：峰值并发超过38万个沙盒。
• 创建速度：每秒可创建超过5,000个沙盒。

目前，生产环境部署了多个分片，支持数百万个沙盒同时运行。DSec已全面承载从DeepSeek-V3.2到V4.1的Agent训练、评测与数据预处理负载。