최근 중국의 오픈 웨이트(Open-weight) AI 모델, 특히 Kimi K3와 알리바바(Alibaba)의 Qwen3.8 Max가 최첨단 모델에 근접하는 성능을 보이며 AI 업계의 이목을 끌고 있습니다. 이들 모델은 낮은 토큰(token) 가격을 내세워 시장에 진입하고 있지만, 전문가들은 AI 사업의 진정한 경쟁 우위는 모델 개발 비용이 아니라, 사용자가 원하는 '정답 수준의 지능'을 제공하는 데 필요한 실제 운영 비용, 즉 매출원가(COGS)에 있다고 분석합니다.
AI 서비스의 매출원가는 모델 크기, 추론 효율, 메모리 효율, 서빙 효율, 그리고 가장 중요한 '토큰 효율' 등 다섯 가지 요소로 결정됩니다. 토큰 효율은 특정 지능을 구현하는 데 필요한 토큰의 양을 의미하며, 모델마다 정답에 도달하는 데 필요한 토큰 수가 크게 다릅니다. 예를 들어, Kimi K3가 토큰당 가격은 저렴하더라도 솔(Sol) 같은 다른 모델보다 훨씬 많은 토큰을 사용한다면, 최종적으로 지능을 제공하는 비용 우위는 사라질 수 있습니다. 이는 토큰 자체가 원유나 구리처럼 대체 가능한 상품이 아니며, 실제로 상품화되는 것은 토큰을 통해 구현된 '지능'이기 때문입니다. 현재 앤트로픽(Anthropic)과 오픈AI(OpenAI)의 높은 가격은 컴퓨팅 공급 부족에서 기인한 측면이 크며, 이들 기업은 모델 성능과 서빙 규모, 토큰 효율성 덕분에 최첨단 지능의 단위 비용이 가장 낮은 기업일 가능성이 높습니다.
중국은 오픈 웨이트 모델을 통해 AI를 상품화하여 자국의 로보틱스(robotics) 및 물리 산업을 강화하려는 전략을 추진하고 있습니다. 특히 '증류(distillation)' 기법을 활용해 미국 최첨단 모델을 저비용 교사(teacher)로 활용하며 빠르게 성능을 개선하는 구조적 이점을 누리고 있습니다. 이는 미국 연구소들이 서비스 약관으로 증류를 제한하더라도 국가 지원을 받는 중국 행위자들의 증류를 막기 어렵다는 점에서 미국 기업들에게 위협이 될 수 있습니다. 만약 미국이 사이버 보안(cyber security) 등 특정 분야에서 자국 최첨단 모델의 사용 제한을 완화하고 자국 오픈 웨이트 개발사들의 증류를 허용하지 않는다면, 결과적으로 미국 기업들이 방어를 위해 중국 모델에 의존하게 될 수도 있습니다. 궁극적으로 AI 시장의 경쟁은 누가 더 저렴한 비용으로 고품질의 지능을 제공하느냐에 달려 있으며, 이는 단순히 토큰 가격만으로 판단할 수 없는 복합적인 문제입니다.