미국 대형 보험사 트래블러스(Travelers)가 자체 대규모 언어모델(LLM)을 개발하여 AI 관련 지출을 절감하고 있습니다. 외부 LLM 서비스에 대한 의존도를 줄임으로써, 기존에 발생하던 API 사용료와 데이터 전송 비용 등을 효율적으로 관리할 수 있게 된 것입니다. 이는 많은 기업이 AI 도입 시 직면하는 비용 문제에 대한 실질적인 해결책을 제시하며 주목받고 있습니다.
트래블러스는 특정 업무에 최적화된 소규모 언어모델(SLM)을 활용하는 전략을 채택했습니다. 예를 들어, 보험금 청구서 요약이나 고객 서비스 문의 응대와 같은 특정 목적에 맞춰 모델을 훈련시켜 효율성을 극대화했습니다. 이러한 접근 방식은 범용 LLM보다 훨씬 적은 컴퓨팅 자원과 비용으로도 높은 정확도를 달성할 수 있게 하며, 민감한 보험 데이터를 외부로 전송하지 않고 내부에서 처리함으로써 보안 강화 효과도 얻고 있습니다.
트래블러스의 사례는 기업들이 AI를 도입할 때 무조건 거대 기술 기업의 LLM에 의존하기보다, 자체적인 역량을 구축하거나 특정 목적에 맞는 소규모 모델을 활용하는 것이 장기적으로 더 경제적이고 효율적일 수 있음을 보여줍니다. 특히 데이터 보안이 중요한 금융, 의료와 같은 산업에서는 이러한 온프레미스(on-premise) 또는 프라이빗(private) LLM 구축이 새로운 표준으로 자리 잡을 가능성이 높습니다. 이는 AI 기술의 활용 범위를 넓히면서도 비용과 보안이라는 두 마리 토끼를 잡을 수 있는 중요한 전략적 전환점이 될 것입니다.