국내 인공지능(AI) 스타트업 포티투마루(42Maru), 뤼튼테크놀로지스(Wrtn Technologies), 딥브레인AI(DeepBrain AI)가 오라클 클라우드 인프라(Oracle Cloud Infrastructure, OCI)를 도입하며 AI 모델 개발 및 운영 비용을 크게 절감하고 있습니다. 이들 기업은 OCI의 고성능 컴퓨팅 자원을 활용해 AI 모델 학습 및 추론(inference)에 필요한 인프라 비용을 최대 50%까지 줄이는 성과를 거두었다고 밝혔습니다.
이번 OCI 도입은 AI 스타트업들이 직면한 고비용 인프라 문제를 해결하기 위한 전략적 선택으로 보입니다. 특히 대규모 언어모델(LLM) 기반의 AI 서비스는 막대한 GPU 자원과 안정적인 네트워크 환경을 요구하는데, OCI는 베어메탈(Bare Metal) GPU 인스턴스와 유연한 클라우드 환경을 제공하여 이러한 요구를 충족시킵니다. 포티투마루는 검색 증강 생성(RAG) 기반의 LLM 플랫폼을, 뤼튼테크놀로지스는 생성형 AI 서비스를, 딥브레인AI는 AI 휴먼 솔루션을 각각 제공하며 OCI를 통해 서비스 안정성과 확장성을 확보하고 있습니다.
이러한 움직임은 국내 AI 스타트업들이 글로벌 클라우드 서비스 제공업체(CSP)와의 협력을 통해 기술 경쟁력을 강화하고, 동시에 비용 효율성을 극대화하려는 추세를 보여줍니다. 고성능 클라우드 인프라를 활용함으로써 AI 모델 개발 주기를 단축하고, 더 많은 연구 개발에 투자할 수 있는 여력을 확보하게 됩니다. 이는 결국 AI 서비스의 품질 향상과 시장 확대로 이어져 국내 AI 산업 전반의 성장에 긍정적인 영향을 미칠 것으로 기대됩니다.