인공지능(AI) 기술이 빠르게 발전하면서, 이를 구동하는 데 필요한 컴퓨팅 자원(compute resources)의 수요가 감당하기 어려울 정도로 급증하고 있습니다. 데이터 센터 구축 속도가 AI의 자원 소모 속도를 따라가지 못하는 상황에서, 많은 스타트업들이 '더 적은 것으로 더 많은 것을 만드는(making more with less)' 방식으로 이 문제에 도전하고 있습니다. 유럽의 유력 벤처캐피탈(VC)들은 AI 모델의 비용과 에너지 요구량을 줄여 효율성을 극대화하는 19개 유망 스타트업을 주목하고 있습니다.
이들 스타트업은 크게 두 가지 방향에서 AI 효율성을 높이고 있습니다. 첫째, AI 모델 자체를 경량화하고 최적화하여 더 적은 연산으로도 동일하거나 더 나은 성능을 내도록 합니다. 예를 들어, The Bottlenose는 복잡한 AI 모델을 더 작고 효율적으로 만들어 배포 비용을 절감하며, Specaha는 하드웨어에 구애받지 않는 소프트웨어 최적화로 AI 모델의 실행 속도를 높입니다. 둘째, AI 인프라 및 운영 방식의 효율을 개선합니다. 예를 들어, Semian은 AI 워크로드(workload)를 분산 처리하여 GPU 활용도를 극대화하고, Instadeep은 강화 학습(reinforcement learning)을 통해 AI 시스템의 전반적인 효율성을 향상시키는 데 기여합니다. 이 외에도 AI 모델 훈련(training) 및 추론(inference) 과정의 에너지 소비를 줄이거나, 데이터 처리 방식을 혁신하는 등 다양한 기술적 접근을 시도하고 있습니다.
이러한 AI 효율화 기술은 단순히 비용 절감 차원을 넘어, AI의 지속 가능한 발전과 광범위한 확산을 위한 필수적인 요소로 평가됩니다. 컴퓨팅 자원의 제약은 AI 기술이 더 많은 산업과 일상생활에 적용되는 데 큰 걸림돌이 될 수 있습니다. 따라서 이들 스타트업의 혁신은 AI 기술의 민주화와 상용화를 가속화하고, 중소기업이나 개인 개발자도 고성능 AI를 더 쉽게 활용할 수 있는 환경을 조성하는 데 중요한 역할을 할 것입니다. 궁극적으로는 AI가 환경에 미치는 영향을 줄이고, 더 많은 기업이 AI를 도입하여 경쟁력을 확보할 수 있도록 돕는 기반 기술이 될 것으로 기대됩니다.