오픈소스 인공지능(AI) 모델이 빠르게 발전하며 폐쇄형 모델과의 격차를 좁히고 있습니다. 코딩, 지시 이행, 일반 지식 분야에서는 이미 폐쇄형 모델과 비슷한 수준에 도달했으며, 추론(inference) 비용은 지난 3년간 50배나 하락했습니다. 2026년 중반에는 오픈소스 모델이 AI 라우터에서 전체 토큰 처리량의 과반을 차지할 것으로 예상될 정도로 사용량이 급증하고 있습니다.
하지만 이러한 성장에도 불구하고 오픈소스 AI의 프로덕션(실제 서비스) 도입률은 폐쇄형 모델(63%)보다 낮은 51%에 머물고 있습니다. 이는 모델 성능 자체의 문제라기보다는 표준화, 배포 도구, 운영 신뢰성 등 '운영 격차' 때문으로 분석됩니다. 기업 규모가 커질수록 오픈소스 모델의 배포율은 크게 늘지 않아, 단순히 자원 투입만으로는 해결하기 어려운 통합 및 유지보수 문제가 핵심 병목으로 작용하고 있습니다. 실제로 마이크로소프트(Microsoft)나 우버(Uber) 같은 대기업들도 폐쇄형 모델의 높은 토큰 종량제 비용 문제로 오픈소스 모델 도입을 검토하거나 전환하고 있으며, 스트라이프(Stripe)는 오픈소스 모델을 자체 호스팅하여 추론 비용을 73% 절감한 사례도 있습니다.
이러한 변화 속에서 AI 경쟁의 중심은 모델 자체에서 '에이전트 하네스(agent harness)'와 같은 상위 계층으로 이동하고 있습니다. 하네스는 다양한 AI 모델을 연결하고 관리하며, 메모리, 쓰기 권한, 거버넌스 등을 제어하는 핵심 인프라입니다. 모델이 상품화되면서 수익은 호스팅 추론, 기업 플랫폼, 미세조정(fine-tuning) 서비스, 그리고 하네스 도구와 같은 상위 계층에 집중되고 있습니다. 또한, 특정 모델이나 공급자, 국가에 대한 의존성을 피하고 개방성을 유지하기 위해서는 중립적인 하네스와 이식 가능한 권한 표준 구축이 중요해지고 있습니다.
오픈소스 AI는 시장성이 작은 언어, 오프라인 서비스, 자체 하드웨어, 공공 인프라 등 폐쇄형 API로 접근하기 어려운 영역에서 사용자에게 모델과 데이터를 직접 소유할 기회를 제공합니다. 뉴질랜드 마오리 방송사의 te reo 음성 모델 훈련, PwC의 금융 언어 미세조정, 스위스 공공 컨소시엄의 국가 모델 훈련 등 다양한 분야에서 오픈소스 AI가 활용되며 국가 주권과 공급자 이탈 가능성(vendor lock-in) 문제를 해결하는 대안으로 부상하고 있습니다. 모질라(Mozilla)가 웹 독점을 막았던 것처럼, AI 생태계에서도 경쟁과 상호운용성, 공급자를 떠날 자유를 보장하는 것이 중요하며, 이는 여러 모델을 표준 방식으로 연결하여 언제든 공급자를 바꿀 수 있는 구조를 만드는 것을 목표로 합니다.