퀄컴이 엣지 AI(Edge AI) 시장을 겨냥한 새로운 AI 가속기 카드, 클라우드 AI 100 울트라(Cloud AI 100 Ultra)를 공개했습니다. 이 제품은 150W의 낮은 전력 소비로 128GB의 대용량 메모리와 548GB/s의 높은 대역폭을 제공하여, 데이터센터뿐만 아니라 통신사, 자동차, 산업용 IoT 등 다양한 엣지 환경에서 AI 추론(inference) 작업을 효율적으로 처리할 수 있도록 설계되었습니다.
클라우드 AI 100 울트라는 기존 모델 대비 두 배 향상된 성능을 제공하며, 특히 대규모 언어모델(LLM)과 같은 복잡한 AI 모델을 엣지에서 구동하는 데 최적화되었습니다. 퀄컴은 이 가속기가 데이터센터의 전력 효율성을 높이고, 엣지 디바이스에서 실시간 AI 처리를 가능하게 하여 새로운 서비스와 애플리케이션 개발을 촉진할 것이라고 강조했습니다. 이는 AI 워크로드를 클라우드에서 엣지로 분산시켜 지연 시간을 줄이고 개인 정보 보호를 강화하는 데 기여할 것입니다.
이번 퀄컴의 발표는 엔비디아(NVIDIA) 중심의 AI 가속기 시장에 새로운 경쟁 구도를 형성할 수 있다는 점에서 주목됩니다. 특히 엣지 AI 분야는 데이터 생성 지점에서 직접 AI 처리가 이루어져야 하는 자율주행, 스마트 팩토리, 통신 인프라 등에서 중요성이 커지고 있습니다. 퀄컴의 클라우드 AI 100 울트라는 이러한 특정 시장의 요구사항을 충족시키며 AI 기술의 확산과 상용화를 가속화하는 데 중요한 역할을 할 것으로 예상됩니다.