AI 칩 스타트업 세레브라스(Cerebras)가 랙 규모 AI 추론 시스템 CS-4를 공개하며 AI 모델 추론 시장에 새로운 기준을 제시했습니다. CS-4는 세레브라스의 최신 웨이퍼 스케일 엔진(Wafer-Scale Engine, WSE)인 WSE-3 터보 칩 3개를 탑재하여, 기존 프로덕션 GPU 시스템 대비 최대 30배 빠른 추론 속도를 자랑합니다. 이는 대규모 언어모델(LLM)과 같은 복잡한 AI 모델의 실시간 응답성을 획기적으로 개선할 수 있는 잠재력을 가집니다.
CS-4는 WSE-3 터보를 기반으로 이전 세대인 CS-3보다 와트당 처리량(throughput per watt)을 최대 10배 높여 전력 효율성을 극대화했습니다. 또한, 웨이퍼 간 연결 지연(inter-wafer latency)을 2마이크로초(microsecond)까지 줄여 매개변수(parameter) 10조 개가 넘는 초대형 모델에서도 초당 1,000개 이상의 토큰(token)을 생성하는 놀라운 성능을 보여줍니다. 이는 수십조 개 매개변수 모델에서도 상호작용 가능한 디코딩(decoding) 성능을 유지하도록 설계된 결과입니다. 특히, 넥서스 플랫폼 아키텍처를 도입하여 컴퓨팅, 전력, I/O를 모듈화하고 부품 수를 50% 줄여 배포 시간을 며칠에서 몇 시간으로 단축했으며, 전력 및 냉각 인프라를 컴퓨팅 모듈과 분리하여 시설 검증을 먼저 진행할 수 있도록 했습니다.
세레브라스 CS-4의 등장은 AI 인프라 시장에 중요한 변화를 가져올 것으로 예상됩니다. 엔비디아(NVIDIA)가 지배하는 AI 가속기 시장에서 세레브라스는 웨이퍼 스케일 통합(Wafer-Scale Integration)이라는 독자적인 접근 방식으로 고성능 추론 솔루션을 제공하며 경쟁 구도를 심화시키고 있습니다. 특히, 초대형 모델의 실시간 추론이 중요해지는 상황에서 CS-4의 압도적인 속도와 효율성은 하이퍼스케일 데이터센터(hyperscale datacenter) 운영자들에게 매력적인 대안이 될 수 있습니다. 다만, 높은 비용과 제한적인 공급량은 여전히 세레브라스의 시장 확장에 걸림돌로 작용할 수 있으며, 엔비디아의 강력한 소프트웨어 생태계와 수직 통합 전략에 맞서 얼마나 경쟁력을 확보할 수 있을지가 관건입니다.