딥시크(DeepSeek)가 대규모 언어모델(LLM) 기반 AI 에이전트의 훈련 및 평가를 위한 새로운 샌드박스 인프라 'DSec(DeepSeek Elastic Compute)'을 공개했습니다. AI 에이전트는 저장소를 검사하고, 도구를 호출하며, 명령어를 실행하고, 특정 서비스와 상호작용하는 등 복잡한 작업을 수행하기 위해 격리되고 상태를 유지하는 실행 환경이 필수적입니다. DSec은 이러한 요구사항을 충족하며, 효율적인 에이전트 개발을 지원하는 것을 목표로 합니다.
DSec은 FnCall, 컨테이너, 마이크로VM(microVM), 그리고 전체 VM(full-VM) 샌드박스 백엔드를 통합된 SDK(소프트웨어 개발 키트)를 통해 제공합니다. 이 플랫폼은 클러스터 전반에 걸쳐 샌드박스의 배치와 생명주기 관리를 조율하며, 독립적으로 버전 관리되는 레이어들로 환경을 구성합니다. 또한, 메모리 공유, 회수, CPU 스케줄링을 결합하여 고밀도 실행을 가능하게 하고, 클러스터 전체 분산 파일 시스템인 Fire-Flyer File System(3FS)에서 이미지 데이터를 온디맨드(on-demand)로 로드합니다. DSec은 강화 학습(RL) 프레임워크와 공동 설계되어, 상태를 유지하는 롤아웃(rollout) 실행을 선점 가능한 GPU 훈련과 분리하고, 유휴 자원 회수 중에도 롤아웃 상태를 보존하도록 샌드박스 생명주기를 훈련과 조율하며, 에이전트의 오작동을 완화합니다. 실제 프로덕션 환경에서 DSec은 약 160개 노드로 구성되어 하루 약 300만 개의 샌드박스를 처리하고, 38만 개 이상의 샌드박스를 동시에 지원하며 초당 5,000개 이상의 샌드박스 생성을 유지합니다.
이러한 메커니즘은 환경 설정 및 이미지 배포 오버헤드를 줄이고, 메모리 효율성을 개선하며, 고밀도 과부하 상황에서도 지연 시간에 민감한 성능을 유지하는 데 기여합니다. AI 에이전트의 복잡성이 증가하고 실제 환경에서의 상호작용이 중요해지면서, 안정적이고 효율적인 훈련 및 평가 인프라는 필수적입니다. DSec과 같은 플랫폼은 대규모 AI 에이전트 개발의 병목 현상을 해소하고, 개발자들이 더욱 정교하고 신뢰할 수 있는 에이전트를 구축하는 데 중요한 역할을 할 것으로 기대됩니다. 이는 AI 에이전트가 다양한 산업 분야에서 실제 문제를 해결하는 데 필요한 기반 기술이 될 것입니다.