국내 인공지능(AI) 스타트업 세 곳이 오라클 클라우드 인프라(OCI)를 도입하여 인프라 비용을 최대 50%까지 절감하는 데 성공했습니다. 이는 AI 개발 및 운영에 필수적인 고성능 컴퓨팅 자원을 효율적으로 확보하고 관리하는 것이 스타트업의 성장에 얼마나 중요한지 보여주는 사례입니다.
이번에 오라클 OCI를 도입한 스타트업은 뤼튼테크놀로지스, 딥브레인AI, 그리고 업스테이지입니다. 이들은 각각 생성형 AI 서비스, AI 휴먼 솔루션, 광학 문자 인식(OCR) 및 대규모 언어모델(LLM) 개발 등 다양한 AI 분야에서 활동하고 있습니다. 특히, OCI의 엔비디아(NVIDIA) GPU 기반 컴퓨팅 자원과 유연한 네트워크 환경을 활용하여 AI 모델 학습 및 추론(inference)에 필요한 고비용 인프라를 최적화했습니다. 오라클은 이들 스타트업에 기술 지원과 함께 비용 효율적인 클라우드 서비스를 제공하여 AI 개발의 진입 장벽을 낮추는 데 기여했습니다.
이러한 사례는 AI 스타트업들이 클라우드 인프라 선택에 있어 단순히 가격뿐만 아니라 성능, 확장성, 그리고 기술 지원까지 종합적으로 고려해야 함을 시사합니다. 특히, 고성능 GPU 자원이 핵심인 AI 분야에서는 클라우드 제공업체별로 GPU 가용성 및 비용 효율성이 크게 달라질 수 있습니다. 오라클 OCI가 제공하는 비용 절감 효과는 초기 투자 부담이 큰 AI 스타트업들에게 더 많은 자원을 연구 개발에 집중할 수 있는 기회를 제공하며, 이는 궁극적으로 국내 AI 생태계의 성장을 가속화하는 데 긍정적인 영향을 미칠 것으로 기대됩니다.