중국의 AI 스타트업 문샷 AI(Moonshot AI)가 2조 8,000억 개의 파라미터를 갖춘 대규모 언어모델(LLM) '키미 K3(Kimi K3)'를 공개했습니다. 이 모델은 혼합전문가(MoE) 구조를 채택했으며, 가중치(weights)가 예정대로 공개되면 현재까지 나온 오픈웨이트 언어모델 중 가장 큰 규모가 될 것으로 주목받고 있습니다. 특히, 경쟁 모델 대비 저렴한 비용으로 고성능을 제공하며 시장에 새로운 바람을 불어넣을 것으로 기대됩니다.
독립 평가 기관 아티피셜 애널리시스(Artificial Analysis)의 '인텔리전스 인덱스'에서 키미 K3는 57점을 기록, 클로드 오퍼스 4.8(56점)을 근소하게 앞섰습니다. 더욱 인상적인 점은 태스크당 비용이 0.94달러로, 오퍼스 4.8(1.80달러)의 약 절반 수준이라는 것입니다. 이는 희소(sparse) MoE 모델 방식을 통해 추론(inference) 비용을 낮춘 결과로, 896개의 전문가 중 16개만 활성화하는 '스테이블 레이턴트MoE(Stable LatentMoE)' 구조와 자체 개발한 '키미 델타 어텐션(KDA)', '어텐션 레지듀얼(AttnRes)' 같은 혁신적인 구조적 기법이 적용되었습니다. 키미 K3는 100만 토큰의 컨텍스트 창과 텍스트·이미지 입력을 처리하는 네이티브 멀티모달(multimodal) 기능을 지원하며, 오픈AI SDK와 호환되어 개발자들의 접근성을 높였습니다.
이번 키미 K3 출시는 고성능 대규모 언어모델 시장에 가격 경쟁을 촉발할 중요한 변곡점이 될 수 있습니다. 문샷 AI는 알리바바, 텐센트 등 주요 기업들의 투자를 유치하며 빠르게 성장하고 있으며, 저렴한 비용으로 프론티어급 성능을 제공함으로써 더 많은 개발자와 기업이 AI 기술을 활용할 수 있도록 할 것입니다. 이는 AI 기술의 대중화와 혁신을 가속화하는 데 기여할 것으로 보입니다. 다만, 가중치 공개 여부와 조건은 아직 확정되지 않았기에, 향후 문샷 AI의 행보에 따라 시장의 반응이 달라질 수 있습니다.