AI 칩 스타트업 세레브라스(Cerebras)가 인공지능(AI) 추론(inference) 속도를 획기적으로 끌어올린 차세대 시스템 CS-4를 공개했습니다. 이 새로운 랙 스케일 솔루션은 기존 GPU 시스템 대비 최대 30배 빠른 추론 성능을 자랑하며, 대규모 AI 모델의 실시간 상호작용을 가능하게 합니다. 세레브라스는 CS-4가 최첨단 AI를 위한 아키텍처라고 강조하고 있습니다.
CS-4는 세레브라스의 3세대 와이퍼 스케일 엔진(WSE-3 Turbo)을 기반으로 하며, 각 와이퍼는 이전 세대 대비 최대 2배 빠른 속도를 제공합니다. 특히, 10조 개 이상의 매개변수(parameter)를 가진 모델에서도 초당 1,000개 이상의 토큰(token)을 생성하며 2마이크로초(microsecond)의 와이퍼 간 연결 지연 시간(latency)을 달성해 압도적인 상호작용 성능을 구현합니다. 또한, 새로운 넥서스 랙 스케일 플랫폼(Nexus Rack-Scale Platform)은 모듈형 설계를 통해 하이퍼스케일 데이터센터에 신속하게 배포하고 유지보수할 수 있도록 지원합니다. 전력 공급 장치를 프로세서에서 0.5mm 거리로 근접시켜 전력 손실을 최소화하고, 새로운 프로그래밍 가능한 I/O 서브시스템으로 대역폭을 두 배 늘리고 지연 시간을 줄였습니다.
이러한 혁신은 AI 모델의 복잡성이 기하급수적으로 증가하는 현 시점에서 매우 중요합니다. CS-4는 단순히 빠른 속도를 넘어, 대규모 AI 모델이 실시간으로 사용자 요청에 응답해야 하는 에이전트형 AI(Agentic AI)와 같은 차세대 AI 애플리케이션에 최적화된 아키텍처를 제공합니다. 모듈형 설계는 데이터센터 운영자들이 컴퓨팅 자원을 유연하게 확장하고 관리할 수 있게 하여, AI 인프라 구축 및 운영의 경제성과 효율성을 크게 개선할 것으로 기대됩니다. 세레브라스는 이번 분기부터 CS-4의 첫 출하를 시작할 예정입니다.