세레브라스(Cerebras)와 오픈AI(OpenAI)가 협력하여 GPT-5.6 솔(Sol) 모델에 '울트라패스트 모드(Ultrafast Mode)'라는 새로운 서비스 티어를 출시했습니다. 이 모드는 오픈AI API를 통해 제공되며, 초당 최대 750개의 출력 토큰을 생성하면서도 품질 저하 없이 최첨단 AI 추론(inference) 속도를 제공하는 것이 특징입니다. 현재는 일부 고객에게만 제한적으로 제공되며, 점차 접근이 확대될 예정입니다.
울트라패스트 모드는 속도와 인텔리전스 사이의 기존 트레이드오프를 해결합니다. 일반적으로 모델 크기가 커지고 지능이 높아질수록 계산 및 데이터 이동 비용이 증가하여 응답 시간이 느려지는 경향이 있었습니다. 하지만 GPT-5.6 솔 울트라패스트는 이러한 한계를 극복하여, '인류 최후의 시험(Humanity's Last Exam, HLE)'이라는 고난도 벤치마크에서 클로드 페이블 5(Claude Fable 5)보다 약 7배 빠르게 2,500개 질문을 11시간 11분 만에 해결하며 동등한 정확도를 보였습니다. 이는 페이블 5가 78시간 27분(3일 이상)이 걸린 것과 비교됩니다. 또한, 경제적으로 가치 있는 지식 작업 벤치마크인 GDP-Val에서도 5.6배의 엔드투엔드 속도 향상을 달성했습니다.
이러한 혁신적인 속도는 세레브라스의 웨이퍼 스케일 엔진(Wafer-Scale Engine) 아키텍처 덕분입니다. 이 아키텍처는 대규모 모델 추론 시 GPU에서 발생하는 메모리 대역폭 병목 현상을 해결하기 위해 설계되었습니다. 세레브라스는 44GB의 SRAM을 웨이퍼 크기 칩에 직접 통합하여 모델 가중치를 온칩에 유지하고, 토큰이 모델 레이어를 통해 끊김 없이 파이프라인으로 흐르도록 함으로써 비효율적인 데이터 이동을 제거했습니다. 이 기술은 모델 크기에 따라 원활하게 확장되어 미래의 최첨단 모델에서도 지속적인 속도 우위를 제공할 것으로 예상됩니다.
울트라패스트 모드는 매 초가 중요한 미션 크리티컬 업무에 AI 에이전트를 적용할 수 있게 하여 개인과 조직의 가능성을 확장합니다. 웹 서비스 운영 기업은 생산 중단(outage)의 근본 원인을 신속하게 파악하고 해결하여 고객 신뢰를 유지하고 매출 손실을 방지할 수 있습니다. 또한, 사이버 공격과 같은 고위험 상황에서 보안팀은 악의적인 행위자를 빠르게 탐지하고 대응하여 치명적인 손실을 막을 수 있습니다. 연구원과 엔지니어는 중요한 문제에 집중하고, 반복적인 작업은 표준 처리로 병렬화하여 전반적인 생산성을 크게 향상시킬 수 있습니다. 이처럼 빠른 추론 속도는 AI가 인간의 사고, 코딩, 협업 속도에 맞춰 작동하게 함으로써 새로운 작업 방식과 애플리케이션의 등장을 촉진할 것입니다.