국내 인공지능(AI) 스타트업 세 곳이 오라클 클라우드 인프라스트럭처(OCI)를 도입하여 AI 모델 학습 및 추론에 필요한 컴퓨팅 비용을 최대 50%까지 절감하는 성과를 거두었습니다. 이는 고비용 구조로 어려움을 겪는 AI 스타트업들에게 클라우드 인프라 선택이 얼마나 중요한지 보여주는 사례입니다.
이번에 OCI를 도입한 스타트업은 뤼튼테크놀로지스(Wrtn Technologies), 포티투마루(42Maru), 그리고 딥브레인AI(DeepBrain AI)입니다. 이들은 OCI의 고성능 컴퓨팅 자원, 특히 엔비디아(NVIDIA) GPU를 활용하여 대규모 언어모델(LLM) 학습 및 서비스 운영 효율성을 크게 높였습니다. 뤼튼테크놀로지스는 OCI의 베어메탈(Bare Metal) GPU 서버를 통해 LLM 학습 시간을 단축하고 비용을 절감했으며, 포티투마루는 검색 증강 생성(RAG) 기술 기반의 LLM 서비스에 OCI를 활용하여 안정적인 성능을 확보했습니다. 딥브레인AI 역시 AI 휴먼(AI Human) 서비스의 글로벌 확장을 위해 OCI를 선택했습니다.
이러한 사례는 국내 AI 스타트업들이 글로벌 경쟁력을 확보하는 데 있어 클라우드 인프라의 역할이 얼마나 중요한지 시사합니다. 컴퓨팅 비용 절감은 스타트업의 한정된 자원을 효율적으로 배분하고, 연구 개발에 더 많은 투자를 가능하게 합니다. 또한, OCI와 같은 글로벌 클라우드 플랫폼을 활용함으로써 해외 시장 진출 시 필요한 인프라 확장성과 안정성을 미리 확보할 수 있다는 장점도 있습니다. 이는 국내 AI 기술이 세계로 뻗어나가는 데 필요한 중요한 발판이 될 것입니다.