최근 한 연구에서 단 500달러의 비용으로 90억 개의 매개변수를 가진 오픈소스 모델을 강화 학습(Reinforcement Learning, RL) 방식으로 미세조정(fine-tune)한 결과, 카탈로그 검토 작업에서 최첨단 대규모 언어모델(LLM)들을 뛰어넘는 성능을 달성했습니다. 이 모델은 1,000개 목록당 0.50달러라는 극히 낮은 비용으로, 가장 저렴한 최신 모델보다 40배, 가장 비싼 모델보다는 무려 340배 저렴하게 운영될 수 있음을 입증했습니다.
이번 성과는 특히 AI 도입에 적극적인 기업들이 생산성, 매출, 비용 절감 면에서 엄청난 이득을 보고 있다는 램프(Ramp)의 데이터와 맥락을 같이 합니다. 램프의 보고서에 따르면, AI 투자 상위 25% 기업은 2022년 11월부터 2025년 12월까지 매출이 두 배 이상 증가한 반면, AI 지출이 전혀 없는 기업은 15% 성장에 그쳤습니다. 이는 단순히 AI 모델을 도입하는 것을 넘어, 업무 프로세스를 AI 중심으로 재설계하고, 실험을 장려하며, 비즈니스 맥락에 맞게 모델을 조정하고, 성과를 측정하며, 명확한 목표를 설정하는 것이 중요함을 시사합니다.
이 연구는 기업이 독점적인 데이터와 프로세스를 활용하여 오픈소스 모델을 강화 학습으로 미세조정함으로써, 어떤 상용 API도 따라올 수 없는 맞춤형 모델을 훨씬 저렴한 비용으로 구축할 수 있음을 보여줍니다. 이는 AI 기술이 특정 비즈니스 문제 해결에 있어 단순히 최신 모델을 사용하는 것보다, 자체 데이터를 활용한 전문화된 모델 구축이 훨씬 효과적이고 경제적일 수 있다는 중요한 시사점을 제공합니다. 결과적으로, 기업들은 AI 도입 전략을 재고하고, 비용 효율적인 방식으로 AI의 잠재력을 최대한 활용할 수 있는 새로운 길을 모색할 필요가 있습니다.