글로벌 핀테크 기업 레볼루트(Revolut)가 약 2,000명의 엔지니어 코딩 작업을 자체 호스팅 대규모 언어모델(GLM)로 전환하며 AI 운영 전략에 큰 변화를 주었습니다. 기존에 사용하던 앤스로픽(Anthropic)과 오픈AI(OpenAI)의 모델 대신 자체 인프라를 구축하여 비용을 획기적으로 절감하고, 엔지니어들의 AI 활용도를 극대화했습니다. 이는 기업들이 AI 도입 시 외부 서비스 의존도를 낮추고 자체 솔루션으로 전환하는 중요한 사례가 될 것으로 보입니다.
레볼루트의 AI 운영 책임자 데이비드 아비트볼(David Abitbol)에 따르면, 이번 전환으로 토큰 100만 개당 혼합 기준 비용이 0.30달러로, 기존 앤스로픽과 오픈AI에 지불하던 비용의 약 10분의 1 수준으로 감소했습니다. 이를 위해 엔비디아(Nvidia) B200 GPU 56대를 도입했으며, 이는 약 250만~300만 달러 규모의 하드웨어 투자로 추정됩니다. 특히, 토큰 사용량 제한을 해제하자 엔지니어들이 어려운 작업뿐만 아니라 모든 코딩 작업에 AI를 적극적으로 활용하기 시작했고, 그 결과 엔지니어링 리드타임(lead time)이 70% 개선되는 성과를 거두었습니다. 다만, 구체적인 측정 방식은 공개되지 않았습니다.
레볼루트의 이번 결정은 오픈 웨이트(open-weight) 모델이 기업 AI 전략의 기본값이 되고, 프런티어 모델(frontier model)이 예외적인 도구로 분류되는 새로운 흐름을 시사합니다. 이는 오픈AI나 앤스로픽처럼 기업공개(IPO)를 준비하는 AI 연구소들에게 가격 책정 모델에 대한 심각한 고민을 안겨줄 수 있습니다. 비용 효율성과 함께 데이터 보안 및 주권 확보 측면에서도 자체 호스팅 모델의 장점이 부각되면서, 많은 중견 및 대기업들이 유사한 전략을 검토할 가능성이 높아졌습니다. 앞으로 최상위 모델이 꼭 필요한 영역은 점차 줄어들고, 특정 산업에 특화된 경량화된(distilled) 모델들이 더욱 중요해질 것으로 전망됩니다.