마이크로소프트가 AI 스타트업의 대규모 언어모델(LLM) 배포를 돕기 위해 '파운드리(Foundry)' 서비스를 활용한 아키텍처 청사진을 공개했습니다. 이 청사진은 파이어웍스 AI(Fireworks AI)의 LLM을 마이크로소프트 애저(Azure) 상에서 효율적으로 배포하고 운영하는 구체적인 방법을 제시하며, 스타트업이 인프라 구축의 복잡성 대신 핵심 AI 개발에 집중할 수 있도록 지원하는 데 목적이 있습니다.
이번 아키텍처는 애저 쿠버네티스 서비스(AKS)와 애저 머신러닝(Azure Machine Learning)을 핵심 구성 요소로 사용합니다. 특히, 파이어웍스 AI는 추론(inference)에 최적화된 경량 LLM을 개발하고 있으며, 이 모델들을 애저 파운드리를 통해 배포함으로써 고성능의 저지연(low-latency) 서비스를 제공할 수 있음을 보여줍니다. 마이크로소프트는 파운드리가 스타트업이 직면하는 GPU 자원 확보, 모델 최적화, 확장성 문제 등을 해결하는 데 도움을 줄 수 있다고 강조합니다.
이러한 움직임은 AI 스타트업들이 복잡한 인프라 관리 부담을 덜고 혁신적인 AI 모델 개발에만 집중할 수 있는 환경을 조성한다는 점에서 중요합니다. 클라우드 제공업체들이 AI 모델 배포와 운영을 위한 전문적인 도구와 서비스를 제공함으로써, 기술 장벽을 낮추고 더 많은 스타트업이 시장에 진입할 수 있는 기회를 열어줄 것으로 기대됩니다. 이는 AI 기술의 상용화와 확산을 가속화하는 중요한 전환점이 될 수 있습니다.