AI 추론(inference) 기술을 전문으로 하는 스타트업 베이스텐(Baseten)이 130억 달러(약 17조 8천억 원)의 기업 가치로 15억 달러(약 2조 원) 규모의 대규모 투자를 마무리할 예정이라고 월스트리트저널(WSJ)이 보도했습니다. 이는 불과 5개월 전 50억 달러(약 6조 8천억 원) 가치로 3억 달러(약 4천억 원)를 유치했던 것을 감안하면, 반년도 안 되는 기간 동안 기업 가치가 160%나 급증한 셈입니다.
베이스텐은 2019년 설립된 스타트업으로, 사용자의 프롬프트(prompt) 입력 후 AI 모델이 실제 결과물을 생성하는 과정인 추론(inference)을 효율적으로 처리하는 데 집중합니다. 특히, 요청을 가장 적합한 모델로 라우팅하고 비용 효율적인 오픈소스 대안을 활용하여 추론 속도를 높이고 비용을 절감하는 기술을 제공합니다. 이번 투자 라운드는 스파크 캐피탈(Spark Capital), 샌즈 캐피탈(Sands Capital), 알티미터 캐피탈(Altimeter Capital), 웰링턴 매니지먼트(Wellington Management) 등이 공동으로 주도하는 것으로 알려졌습니다.
이번 대규모 투자는 AI 모델 학습(training) 단계를 넘어 추론(inference) 단계에서 '골드러시'가 시작되었음을 명확히 보여줍니다. AI 모델이 실제 서비스에 적용되면서 발생하는 막대한 추론 비용과 속도 문제가 중요해졌고, 이를 해결하는 기술에 벤처 캐피탈(VC)의 자금이 집중되고 있습니다. 베이스텐과 같은 기업들은 AI 기술의 상용화와 확산을 가속화하는 핵심 인프라 역할을 하며, 앞으로도 이 분야의 경쟁과 투자는 더욱 치열해질 것으로 예상됩니다.