이스라엘의 AI 스타트업 벨로시티(Velocity)가 최근 2,700만 달러(약 370억 원) 규모의 시드(Seed) 투자를 유치하며 AI 업계의 주목을 받고 있습니다. 이들은 대규모 언어모델(LLM)을 포함한 복잡한 AI 모델을 더 빠르고 효율적으로 구동할 수 있도록 최적화하는 기술을 개발하고 있습니다. 이는 AI 모델을 실제 서비스에 적용할 때 발생하는 막대한 운영 비용과 성능 문제를 해결하려는 시도입니다.
벨로시티는 AI 모델의 추론(inference) 단계에서 발생하는 비효율성을 집중적으로 공략합니다. AI 모델이 학습된 데이터를 바탕으로 실제 질문에 답하거나 새로운 콘텐츠를 생성하는 과정을 추론이라고 하는데, 이 과정은 특히 LLM과 같이 규모가 큰 모델일수록 많은 컴퓨팅 자원과 시간을 소모합니다. 벨로시티의 기술은 이러한 추론 과정을 가속화하고, 필요한 하드웨어 자원을 줄여 운영 비용을 대폭 절감하는 것을 목표로 합니다. 이는 단순히 모델을 압축하는 것을 넘어, 모델의 구조와 연산 방식을 근본적으로 최적화하는 접근 방식을 포함합니다.
이번 투자는 AI 기술이 연구 단계를 넘어 실제 산업 현장에 적용되면서 발생하는 새로운 도전 과제를 해결하려는 움직임의 일환입니다. AI 모델의 성능과 정확도 향상만큼이나 중요한 것이 바로 효율적인 배포와 운영입니다. 벨로시티와 같은 스타트업의 등장은 AI 기술의 상용화 장벽을 낮추고, 더 많은 기업이 AI를 효과적으로 활용할 수 있는 기반을 마련하는 데 기여할 것입니다. 이는 AI 기술이 단순히 특정 대기업의 전유물이 아닌, 다양한 규모의 기업과 개발자에게 보편적으로 접근 가능한 도구가 될 수 있음을 시사합니다.