바이두(Baidu)가 로봇과 같은 체화된 모델(embodied model)을 위한 고성능 훈련 서브시스템 'LoongForge-Embodied'를 오픈소스로 공개했습니다. 이는 비전-언어-행동(VLA) 정책 모델(예: pi0.5)과 세계-행동 모델(WAM, 예: FastWAM)의 훈련에 특화된 시스템으로, 기존 대규모 언어모델(LLM)이나 비전 언어모델(VLM) 훈련 시스템과는 차별화된 접근 방식을 취하고 있습니다.
'LoongForge-Embodied'는 바이두의 모노레포(monorepo)인 LoongForge 내에 포함되어 있지만, LLM/VLM/Diffusion 모델 훈련에 사용되는 Megatron 기반 스택과 의도적으로 분리되어 있습니다. 이는 체화된 모델이 일반적으로 100억 개 미만의 매개변수를 가지는 등 상대적으로 모델 크기가 작기 때문입니다. 이러한 모델의 병목 현상은 모델 매개변수 규모보다는 데이터 처리(data plumbing) 및 반복 속도에 있으므로, Megatron의 복잡한 모델 병렬화(TP/PP/EP) 대신 파이토치(PyTorch) 네이티브 DDP(Distributed Data Parallel) 및 FSDP(Fully Sharded Data Parallel) 엔진을 활용하여 효율성을 극대화했습니다. 이 서브시스템은 자체적인 설정, 트레이너, 데이터, 분산 및 평가 계층을 갖추고 있어 독립적인 진화를 가능하게 합니다.
이 시스템의 핵심 추상화는 모델 네트워킹, 데이터셋 처리, 훈련 설정, 그리고 분산 트레이너의 네 가지로 구성됩니다. 모델 네트워킹은 각 모델 디렉토리가 통일된 인터페이스를 제공하여 훈련 루프 변경 없이 모델 추가를 용이하게 합니다. 데이터셋 처리는 공통 백엔드와 각 모델별 데이터 처리 방식 및 변환을 분리하여 유연성을 확보합니다. 훈련 설정은 YAML 파일과 명령줄 인자를 통해 모델, 데이터, 훈련 매개변수를 유연하게 구성할 수 있도록 하며, 분산 트레이너는 파이토치 DDP/FSDP를 기반으로 훈련 수명 주기를 효율적으로 관리합니다.
'LoongForge-Embodied'의 출시는 로봇 공학 및 체화된 인공지능(embodied AI) 분야의 연구 및 개발 속도를 가속화할 잠재력을 가지고 있습니다. 특히, 데이터 처리와 반복 속도가 중요한 체화된 모델의 특성을 고려한 맞춤형 훈련 시스템은 개발자들이 모델 아키텍처나 분산 훈련의 복잡성보다는 실제 로봇의 행동 학습과 데이터셋 구축에 더 집중할 수 있도록 도울 것입니다. 이는 복잡한 로봇 작업을 수행하는 인공지능 개발의 진입 장벽을 낮추고, 더 다양한 연구와 상업적 응용을 촉진할 것으로 기대됩니다.