기업용 소프트웨어 분야의 강자인 페가시스템즈(PegaSystems)의 앨런 트레플러(Alan Trefler) CEO가 최근 대규모 언어모델(LLM) 제공업체들의 과금 방식인 '토크노믹스(Tokenomics)'에 대해 강도 높은 비판을 제기했습니다. 그는 LLM이 토큰(token) 단위로 비용을 청구하는 방식 때문에 기업 환경에서 사용하기에는 너무 비싸고 비효율적이라고 지적하며, 현재의 LLM 기술이 비즈니스 문제 해결에 적합하지 않다고 주장했습니다.
트레플러 CEO는 LLM이 특정 작업을 수행할 때마다 수천 개의 토큰을 소비하며, 이는 곧 높은 비용으로 이어진다고 설명했습니다. 그는 LLM이 단순히 텍스트를 생성하는 것을 넘어, 기업의 복잡한 프로세스 자동화나 고객 서비스 개선과 같은 실제 비즈니스 가치를 제공하기 위해서는 훨씬 더 정교하고 비용 효율적인 접근 방식이 필요하다고 강조했습니다. 페가시스템즈는 자체적으로 동적 케이스 관리(Dynamic Case Management)와 같은 기술을 통해 AI를 비즈니스 프로세스에 통합하는 데 주력해왔으며, 이러한 관점에서 현재 LLM의 한계를 지적한 것입니다.
이번 비판은 LLM의 상업적 활용과 비용 효율성에 대한 중요한 논쟁의 시작점이 될 수 있습니다. 많은 기업들이 LLM 도입을 검토하고 있지만, 트레플러 CEO의 지적처럼 높은 운영 비용은 실제 비즈니스 적용에 큰 걸림돌이 될 수 있습니다. 이는 LLM 개발사들이 기술 발전뿐만 아니라, 기업 고객의 예산과 효율성을 고려한 새로운 과금 모델이나 최적화된 솔루션을 모색해야 할 필요성을 시사합니다. 결국, AI 기술이 진정으로 기업의 핵심 가치를 창출하려면 기술적 우수성뿐만 아니라 경제적 실현 가능성도 함께 고려되어야 함을 보여줍니다.