기업용 소프트웨어 분야의 강자인 페가시스템즈(PegaSystems)의 CEO 앨런 트레플러(Alan Trefler)가 최근 대규모 언어모델(LLM) 제공업체들의 과금 방식, 즉 토크노믹스(tokenomics)에 대해 공개적으로 비판의 목소리를 높였습니다. 그는 현재 LLM 서비스들이 사용하는 토큰 기반의 비용 모델이 기업 고객에게 불합리하며, 장기적인 관점에서 지속 가능하지 않다고 주장했습니다. 이는 LLM 기술의 상업적 활용이 본격화되는 시점에서 중요한 논쟁을 불러일으키고 있습니다.
트레플러 CEO는 LLM이 텍스트를 처리하는 데 사용하는 토큰(token) 단위의 과금 방식이 기업의 실제 사용 패턴과 맞지 않는다고 지적했습니다. 예를 들어, 기업은 LLM을 통해 특정 질문에 대한 답변을 얻거나 문서를 요약하는 등 다양한 작업을 수행하지만, 이 과정에서 발생하는 토큰의 양은 예측하기 어렵다는 것입니다. 그는 이러한 불확실성이 기업이 LLM 도입을 망설이게 하는 주요 원인이며, 서비스 제공업체들이 더 투명하고 예측 가능한 비용 모델을 제시해야 한다고 강조했습니다. 특히, 기업이 LLM을 내부 시스템에 통합하여 반복적으로 사용할 경우, 토큰 기반 과금은 통제 불가능한 비용 폭증으로 이어질 수 있다는 우려를 표명했습니다.
이번 비판은 LLM 기술이 단순히 연구 단계를 넘어 실제 비즈니스 환경에 적용되면서 발생하는 현실적인 문제점을 수면 위로 끌어올렸다는 점에서 의미가 큽니다. 기업들은 LLM의 잠재력에 주목하면서도, 높은 도입 비용과 불확실한 운영 비용 때문에 선뜻 나서지 못하는 경우가 많습니다. 트레플러 CEO의 발언은 이러한 기업들의 고민을 대변하며, LLM 제공업체들에게 보다 합리적이고 기업 친화적인 비즈니스 모델을 개발하도록 압력을 가할 것으로 보입니다. 결국, LLM 기술의 대중화와 확산을 위해서는 기술적 혁신뿐만 아니라, 고객의 입장을 고려한 경제적 모델의 혁신 또한 필수적이라는 점을 시사합니다.