AI 스타트업 레고라(Legora)의 최고기술책임자(CTO)가 최근 AI 업계에서 논란이 되고 있는 '토큰맥싱(tokenmaxxing)' 현상을 강하게 비판했습니다. 토큰맥싱은 AI 모델의 입출력 단위인 토큰 사용량을 인위적으로 늘려 서비스 제공자가 수익을 극대화하려는 전략을 의미합니다. 레고라 CTO는 이러한 방식이 AI 사용을 장려하는 '정말 어리석은 방법'이라고 지적하며, 사용자에게 불필요한 비용 부담을 전가하는 행위라고 강조했습니다.
이번 비판은 AI 서비스의 비용 구조와 투명성에 대한 업계의 깊은 고민을 반영합니다. 대규모 언어모델(LLM) 기반 서비스는 사용자가 입력하는 프롬프트(prompt)와 모델이 생성하는 응답을 토큰 단위로 계산하여 과금하는 방식이 일반적입니다. 그러나 일부 서비스는 사용자에게 더 많은 토큰을 사용하도록 유도하거나, 내부적으로 불필요한 토큰 처리를 통해 비용을 부풀리는 경향이 있다는 지적이 제기되어 왔습니다. 레고라 CTO는 이러한 관행이 장기적으로 AI 기술에 대한 신뢰를 저해하고 사용자 경험을 악화시킬 수 있다고 경고했습니다.
이러한 비판은 AI 서비스 제공자들이 단기적인 수익보다는 장기적인 사용자 가치와 효율성에 집중해야 한다는 메시지를 던집니다. AI 기술이 빠르게 발전하면서 다양한 서비스가 등장하고 있지만, 불투명한 과금 방식이나 비효율적인 토큰 사용은 결국 사용자 이탈로 이어질 수 있습니다. 따라서 AI 기업들은 기술적 우수성뿐만 아니라 합리적인 비용 구조와 투명한 서비스 운영을 통해 사용자 신뢰를 확보하는 것이 중요해질 것입니다. 이는 AI 산업의 지속 가능한 성장을 위한 필수적인 요소로 작용할 전망입니다.