AI 인프라 스타트업 인피니티(Infinity)가 최근 1억 달러 기업 가치로 1,500만 달러의 투자를 유치하며 주목받고 있습니다. 이번 투자에는 투어링 캐피탈(Touring Capital), 프린시펄 VC(Principal VC) 외에도 오픈AI(OpenAI)와 앤스로픽(Anthropic)의 연구원들이 참여했습니다. 인피니티는 엔비디아(Nvidia)의 독점적인 CUDA 소프트웨어에 맞서 다양한 AI 칩에서 AI 모델을 효율적으로 실행할 수 있는 범용 소프트웨어 스택을 구축하는 것을 목표로 합니다.
엔비디아가 AI 칩 시장을 장악할 수 있었던 핵심 요인 중 하나는 고성능 GPU(그래픽 처리 장치)와 함께 제공되는 CUDA(Compute Unified Device Architecture)라는 소프트웨어 플랫폼 덕분입니다. CUDA는 개발자들이 파이토치(PyTorch), 텐서플로우(TensorFlow) 같은 주요 AI 프레임워크를 사용해 엔비디아 칩에서 애플리케이션을 쉽게 실행할 수 있도록 합니다. 하지만 이는 동시에 다른 AI 칩 제조사들이 시장에 진입하기 어렵게 만드는 진입 장벽으로 작용했습니다. 인피니티는 이러한 문제에 도전하며, SRAM, GPU, 모바일 칩, 시스톨릭 어레이(Systolic Array) 등 모든 유형의 칩에서 작동하는 CUDA 대체 커널(kernel) 소프트웨어를 개발하고 있습니다. 이들의 핵심 기술은 AI 연구 에이전트 '이그니션(Ignition)'으로, 이 에이전트가 다양한 칩 아키텍처에 맞춰 저수준 코드를 자동으로 생성하고 최적화합니다. 이그니션은 코드를 테스트하고 디버깅하며, 하드웨어 성능을 측정해 필요에 따라 코드를 자동으로 재작성함으로써 지속적으로 성능을 개선합니다. 인피니티는 이러한 방식으로 인간이 수개월에서 수년 걸릴 작업을 단 몇 시간 또는 며칠 만에 처리할 수 있다고 주장합니다.
인피니티의 등장은 엔비디아 중심의 AI 하드웨어 생태계에 중요한 변화를 가져올 잠재력을 지닙니다. 다양한 AI 칩들이 등장하고 있지만, 소프트웨어 호환성 문제로 인해 엔비디아 GPU 외의 칩들은 채택에 어려움을 겪어왔습니다. 인피니티의 범용 추론 라이브러리는 이러한 문제를 해결하여, AI 칩 제조사들이 엔비디아에 종속되지 않고도 자사 칩의 성능을 최대한 발휘할 수 있도록 돕습니다. 이는 궁극적으로 AI 칩 시장의 경쟁을 촉진하고, 개발자들이 더 넓은 선택지를 가질 수 있게 할 것입니다. 인피니티는 선불 라이선스 비용 대신 성능 향상 및 비용 절감액의 일부를 수익으로 가져가는 비즈니스 모델을 채택하여 고객사의 부담을 줄이고 성과에 기반한 협력을 유도하고 있습니다. 현재 AI 칩 제조사 D-매트릭스(D-Matrix)를 고객으로 확보했으며, 다른 주요 칩 및 클라우드 기업들과도 논의 중입니다.