마이크로소프트가 자체 개발한 3세대 AI 칩 '마이아 300'을 발표하며, 2027년부터 자사 제품 및 서비스의 핵심 AI 추론 시스템으로 활용할 계획이라고 밝혔습니다. 이는 엔비디아 등 외부 GPU(그래픽 처리 장치)에 대한 의존도를 낮추고, 클라우드 기반 AI 워크로드의 효율성과 비용 절감을 극대화하려는 전략의 일환입니다.
마이아 300은 이전 세대인 마이아 200의 후속작으로, 특히 장문 맥락 추론(long-context reasoning), 낮은 지연 시간(latency-sensitive)의 대화형 경험, 그리고 여러 단계를 거치는 에이전트 작업 등 최신 AI 워크로드에 최적화되어 있습니다. 마이크로소프트 클라우드 그룹의 스콧 거스리(Scott Guthrie) 부사장은 마이아 300이 선도적인 GPU 기반 시스템 대비 메가와트당 40% 더 많은 토큰(tokens)을 처리할 것으로 예상하며, 96개 가속기(accelerator) 구성에서는 마이아 200 대비 최대 7배의 랙 스케일 토큰 처리량(throughput)을 제공한다고 강조했습니다. 이 칩은 TSMC의 N2P 공정 노드를 기반으로 컴퓨팅, 메모리 컨트롤러, I/O 기능을 분리하는 새로운 칩렛(chiplet) 아키텍처를 채택하여 효율성을 극대화했습니다.
마이크로소프트의 이러한 움직임은 AI 모델 개발 및 운영에 있어 하드웨어와 소프트웨어 스택 전반을 자체적으로 제어하려는 의지를 보여줍니다. 마이크로소프트 AI CEO 무스타파 술레이만(Mustafa Suleyman)은 “실리콘(반도체)까지 아우르는 풀 스택(full stack) 작업이 필요하며, 우리가 소유하고 모델과 공동 설계하는 플랫폼이 필수적”이라고 언급했습니다. 마이아 300의 도입은 마이크로소프트가 구글 딥마인드(Google DeepMind), 오픈AI(OpenAI), 앤트로픽(Anthropic) 등 선두 AI 기업들과의 경쟁에서 우위를 점하고, 자사 AI 모델의 성능을 최적화하는 데 중요한 역할을 할 것으로 보입니다.