최근 인공지능(AI) 분야에서 두 가지 주요 움직임이 포착되며, AI 컴퓨팅의 치솟는 비용과 복잡성을 관리하려는 기술 기업들의 노력이 부각되고 있습니다. 퀄컴(Qualcomm)은 AI 모델을 다양한 컴퓨터 칩에서 효율적으로 구동할 수 있도록 돕는 소프트웨어 스타트업 모듈러(Modular)를 인수했습니다. 동시에 AI 칩 스타트업 삼바노바(SambaNova)는 100억 달러의 기업 가치로 8억 달러 규모의 투자를 유치하며 시장의 뜨거운 관심을 입증했습니다.
이러한 움직임은 하드웨어 공급이 부족하고 비용이 비싸지는 상황에서, 다양한 칩을 연결하고 AI 모델의 효율성을 극대화하는 소프트웨어 계층의 가치가 실리콘 자체만큼 중요해지고 있음을 시사합니다. 구글 벤처스(GV)의 데이브 무니치엘로(Dave Munichiello) 매니징 파트너는 AI 하드웨어가 엔비디아(Nvidia)의 GPU를 넘어 AI 전용 칩, CPU, GPU 등 이기종(heterogeneous) 환경으로 진화하고 있으며, 이러한 분산된 추론(disaggregated inference) 환경을 통합하는 소프트웨어 솔루션의 필요성이 커지고 있다고 설명했습니다. 퀄컴은 이 세 가지 구성 요소를 모두 다루기 때문에 통합 소프트웨어 계층이 필수적입니다.
이번 인수는 AI 스택에서 가치의 중심이 독점적인 하드웨어 아키텍처에서 개발자 친화적인 소프트웨어 계층으로 이동하고 있음을 보여줍니다. AI 추론(inference) 수요가 의학, 법률, 코딩, 고객 지원, 금융 등 모든 산업 분야에서 폭발적으로 증가하면서, 기업들은 제한된 칩 자원에서 최대한의 가치를 끌어내기 위해 노력하고 있습니다. 이는 저렴한 CPU, 필요한 경우 GPU, 그리고 가장 복잡한 작업에만 고비용 칩을 사용하는 등 여러 유형의 칩을 조합하고, 소프트웨어 스택 전반에서 효율성을 극대화하는 방향으로 나아가고 있습니다. 이러한 효율성 추구는 AI 인프라 스타트업에 대한 대기업들의 인수 합병을 가속화하는 요인이 되고 있습니다.