오픈레이크(OpenLake)가 MLCommons의 MLPerf 스토리지 v3.0 벤치마크에서 라마 3.1 8B(Llama 3.1 8B) 체크포인팅 워크로드 부문 최고 성능을 달성하며, 대규모 언어모델(LLM) 훈련을 위한 고성능 스토리지의 중요성을 입증했습니다. 오픈레이크의 인피니티 코어 I/O 엔진(Infinity Core I/O Engine)은 S3 API 인터페이스를 통해 쓰기 6.72GiB/s, 읽기 11.55GiB/s라는 인상적인 속도를 기록했습니다. 이는 다른 경쟁사 대비 최대 1.98배 빠른 쓰기 성능을 보여주며, AI 훈련 인프라의 효율성을 크게 향상시킬 수 있는 잠재력을 시사합니다.
이번 벤치마크는 AI 훈련 및 추론(inference) 워크로드를 대표하는 스토리지 시스템 평가를 위한 산업 표준입니다. 오픈레이크는 단일 클라이언트 노드와 단일 데이터 병렬 인스턴스를 사용한 라마 3.1 8B 체크포인팅 테스트에서 가장 빠른 읽기 및 쓰기 대역폭을 기록했습니다. 이들의 시스템은 io_uring과 GPUDirect Storage를 기반으로 하는 비동기 I/O 엔진을 활용하며, 낮은 지연 시간과 높은 처리량을 제공하도록 설계되었습니다. 특히 비동기 io_uring I/O, 고정 실행 스레드, 미세 조정된 I/O 통합, XFS 및 워크로드별 스토리지 튜닝 기술이 결합되어 뛰어난 성능을 발휘했습니다.
대규모 AI 모델 훈련은 수백 또는 수천 개의 GPU를 사용하여 몇 주 동안 진행될 수 있습니다. 이 과정에서 모델 가중치, 최적화 상태 등 훈련 상태를 주기적으로 저장하는 체크포인팅(checkpointing)은 필수적입니다. 스토리지 성능은 체크포인트 쓰기 시간 동안 GPU가 유휴 상태로 머무는 시간을 결정하여 훈련 비용과 직결되며, 오류 발생 시 훈련을 복구하는 속도에도 영향을 미칩니다. 오픈레이크의 이번 성과는 GPU 유휴 시간을 단축하고, 장애 발생 시 복구 시간을 줄여 전체 훈련 시간을 단축하며, 수백만 달러에 달하는 GPU 클러스터의 활용도를 극대화하는 데 크게 기여할 것입니다. 이는 강화 학습, 사전 훈련, 사후 훈련 등 체크포인트 생성 빈도가 높은 AI 워크로드에서 더욱 중요해질 전망입니다.