AI 칩 스타트업 세레브라스(Cerebras)가 대규모 언어모델(LLM) 학습에서 엔비디아(Nvidia)의 GPU보다 훨씬 빠른 원시 속도(raw speed)를 보여주고 있음에도 불구하고, 시장 점유율 확대에 어려움을 겪고 있습니다. 이는 엔비디아가 구축한 강력한 소프트웨어 생태계, 특히 CUDA 플랫폼의 막대한 영향력 때문으로 분석됩니다. 아무리 뛰어난 하드웨어라도 이를 활용할 수 있는 소프트웨어와 개발자 커뮤니티가 뒷받침되지 않으면 시장에서 성공하기 어렵다는 점을 명확히 보여주는 사례입니다.
세레브라스는 웨이퍼 스케일 엔진(Wafer-Scale Engine, WSE)이라는 혁신적인 칩 아키텍처를 통해 단일 칩으로 수십만 개의 코어를 통합하여 LLM 학습에 필요한 막대한 연산량을 효율적으로 처리합니다. 실제로 특정 벤치마크에서는 엔비디아의 최신 GPU 클러스터보다 월등히 빠른 학습 속도를 기록하기도 했습니다. 하지만 이러한 하드웨어적 우위에도 불구하고, 대부분의 AI 개발자와 연구기관은 엔비디아의 CUDA(Compute Unified Device Architecture) 플랫폼에 익숙하며, 수많은 라이브러리와 프레임워크가 CUDA에 최적화되어 있습니다. 세레브라스는 자체 소프트웨어 스택을 제공하지만, 이미 광범위하게 사용되는 CUDA 생태계를 대체하거나 이에 필적하는 수준의 개발 편의성을 제공하기에는 역부족인 상황입니다.
이러한 현상은 AI 시대에 하드웨어 성능만큼이나 소프트웨어와 생태계의 중요성이 얼마나 큰지를 다시 한번 일깨워줍니다. 엔비디아는 단순히 GPU를 판매하는 것을 넘어, CUDA를 통해 AI 개발의 표준을 제시하고 사실상의 독점적인 위치를 확보했습니다. 이는 다른 AI 칩 기업들이 아무리 혁신적인 하드웨어를 개발하더라도, 기존 개발자들이 새로운 플랫폼으로 전환할 유인을 제공하지 못하면 시장 진입 장벽에 부딪힐 수밖에 없음을 의미합니다. 결국 AI 기술의 발전은 하드웨어와 소프트웨어, 그리고 이를 둘러싼 개발자 커뮤니티의 유기적인 결합을 통해서만 가능하다는 중요한 시사점을 던집니다.