AI 추론(inference) 최적화 기술을 개발하는 스타트업 인피니티(Infinity)가 투어링 캐피탈(Touring Capital)이 주도하는 시드 라운드에서 1,500만 달러(약 200억 원) 규모의 투자를 유치했습니다. 이번 투자에는 오픈AI(OpenAI)와 앤트로픽(Anthropic)의 전현직 연구원들도 개인 자격으로 참여하며, AI 모델 배포 및 운영의 핵심 과제인 추론 효율성 개선에 대한 업계의 높은 관심을 보여주고 있습니다.
인피니티는 대규모 언어모델(LLM)과 같은 AI 모델의 추론 과정을 최적화하여 비용을 절감하고 속도를 향상시키는 솔루션을 제공합니다. AI 모델을 훈련(training)시키는 것만큼이나, 실제 서비스에 적용하여 사용자 요청에 응답하는 추론 단계에서의 효율성은 매우 중요합니다. 특히 LLM은 모델 크기가 방대하여 추론 시 막대한 컴퓨팅 자원과 비용이 소모되는데, 인피니티는 이러한 문제를 해결하기 위한 독자적인 기술을 개발하고 있습니다. 이들의 목표는 개발자들이 모델 배포와 확장에 드는 시간과 비용을 획기적으로 줄이는 것입니다.
이번 투자는 AI 기술이 연구 단계를 넘어 실제 산업에 적용되면서 발생하는 운영상의 난제, 특히 추론 비용과 지연 시간(latency) 문제를 해결하는 것이 얼마나 중요한지를 잘 보여줍니다. AI 모델의 성능이 상향 평준화되는 상황에서, 효율적인 추론은 기업들이 경쟁 우위를 확보하고 AI 서비스를 대중화하는 데 필수적인 요소가 될 것입니다. 인피니티와 같은 추론 최적화 스타트업의 성장은 AI 기술의 상업적 활용을 가속화하고, 더 많은 기업이 AI를 도입할 수 있는 기반을 마련할 것으로 기대됩니다.