아마존 웹 서비스(AWS)가 자동차 제조 산업에서 3년간 실제 운영하며 검증된 이벤트 기반 머신러닝(ML) 훈련 파이프라인 구축 및 운영 경험을 공개했습니다. 이 시스템은 제조 현장에서 발생하는 특정 이벤트(예: 새로운 제품 데이터 생성)에 반응하여 필요한 시점에만 GPU 가속 머신러닝 모델 훈련을 시작하고 오케스트레이션합니다. 이를 통해 상시 GPU 인프라를 운영하는 방식 대비 최대 78%의 비용 절감 효과를 달성했다고 보고했습니다.
이 아키텍처는 Amazon ECS(Elastic Container Service)와 EC2 GPU 용량 공급자를 결합하여 GPU 워크로드를 처리합니다. 메시징은 SQS(Simple Queue Service) 기반으로 구축되었으며, 데드-레터 큐(dead-letter queue)를 통해 메시지 손실을 방지합니다. 특히 중요한 부분은 클러스터 동시성 제한을 강제하는 '입장 제어(admission-controlled)' 람다(Lambda) 디스패처입니다. 이 디스패처는 과도한 요청으로 인한 시스템 부하를 막고, 자원을 효율적으로 분배합니다. 또한, Conductor 오케스트레이터가 ECS 파게이트(Fargate) 위에서 주간 단위로 종속성을 고려한 재훈련 체인을 시작하며, 전체 인프라는 모듈형 테라폼(Terraform)으로 코드화되어 다중 계정 분리를 지원합니다. 4만 건 이상의 실제 프로덕션 훈련 작업을 통해 검증된 이 시스템은, 입장 제어가 없었다면 작업의 65%가 손실되었을 것이라는 시뮬레이션 결과로 그 중요성을 입증했습니다.
이번 AWS의 경험 공유는 제조 분야에서 AI를 도입하려는 기업들에게 클라우드 기반의 효율적인 ML 운영 모델을 제시한다는 점에서 큰 의미가 있습니다. 특히, GPU와 같은 고비용 자원을 필요한 시점에만 활용하고, 지능적인 오케스트레이션과 입장 제어를 통해 비용을 대폭 절감할 수 있음을 보여주었습니다. 이는 AI 모델의 지속적인 개선과 배포(CI/CD)가 필수적인 현대 제조 환경에서, 비용 효율성을 확보하면서도 안정적인 ML 파이프라인을 구축하는 데 중요한 통찰력을 제공합니다. 또한, 공개된 시뮬레이터와 테라폼 모듈 스켈레톤은 다른 기업들이 유사한 시스템을 구축하는 데 실질적인 도움을 줄 수 있을 것으로 기대됩니다.