최근 공개된 오픈 가중치(open weights) 모델 GLM 5.2가 클로드(Claude)의 Opus나 GPT급 성능에 근접하면서 인공지능(AI) 추론(inference) 시장에 지각 변동을 예고하고 있습니다. 이는 기존 폐쇄형(closed-source) 프런티어 모델들이 누리던 높은 추론 마진에 상당한 압박을 가할 것으로 보이며, AI 서비스의 비용 구조와 시장 경쟁 구도에 큰 변화를 가져올 핵심 요인으로 주목받고 있습니다.
GLM 5.2는 Z.ai와 Fireworks 같은 플랫폼을 통해 제공되며, Opus 소매가의 20% 미만, GPT 5.5 비용의 약 15% 수준인 약 4.40달러/MTok(메가 토큰)의 파격적인 가격을 제시합니다. 품질 면에서는 Opus와 구분하기 어려울 정도로 뛰어나지만, '생각하는' 시간이 길어 체감 속도가 느리고, 비전(vision) 기능과 웹 검색 지원이 약하다는 단점이 있습니다. 그러나 OpenAI 및 Anthropic 호환 엔드포인트 덕분에 기존 코드에서 base URL과 API 키만 변경하면 쉽게 전환할 수 있어 마이그레이션 비용이 매우 낮다는 점이 큰 강점입니다. 특히, 추론 비용은 AI 서비스의 수요에 따라 지속적으로 증가하는 변동비 성격이 강해, 프런티어 랩들이 모델 학습에 드는 막대한 고정비를 상각하기 위해 높은 마진을 유지해왔던 구조에 직접적인 위협이 됩니다.
이러한 오픈 가중치 모델의 부상은 AI 시장의 판도를 바꿀 중요한 의미를 가집니다. 첫째, 저렴하고 고품질의 AI 모델이 확산되면서 기업들은 데이터 프라이버시와 보안 우려를 해소하며 온프레미스(on-premise) 배포를 고려할 수 있게 됩니다. 둘째, 낮은 전환 비용은 사용자들이 특정 프런티어 랩에 종속되지 않고 더 유연하게 AI 모델을 선택할 수 있게 하여 시장의 경쟁을 촉진합니다. 셋째, AMD 하드웨어 최적화 등으로 추론 비용이 더욱 낮아질 가능성이 커지면서, AI 서비스의 전반적인 가격 하락을 이끌고 더 많은 혁신적인 애플리케이션 개발을 가속화할 것으로 기대됩니다. 이는 과거 메모리 칩, 워크스테이션, 상용 데이터베이스 시장에서 오픈소스와 저가 대안이 등장하며 마진 붕괴를 가져왔던 사례와 유사하게, AI 시장에서도 '범용재화(commoditization)' 압력을 가할 수 있습니다.