명령줄 인터페이스(CLI) 환경에서 인공지능(AI) 에이전트를 사용하는 개발자들을 위한 혁신적인 도구 '투로(Turo)'가 공개되었습니다. 이 프록시(proxy)는 AI 모델에 전달되는 프롬프트(prompt)에서 불필요한 단어를 제거하고 핵심 의미만 남겨, 토큰(token) 사용량을 최대 70%까지 절감할 수 있도록 설계되었습니다. 이는 AI 서비스 이용료의 상당 부분을 차지하는 토큰 비용을 줄여, 개발자와 기업이 AI를 더욱 효율적으로 활용할 수 있는 길을 열어줄 것으로 기대됩니다.
투로는 텍스트를 처리하는 4단계 파이프라인(pipeline)을 통해 토큰 절감을 달성합니다. 먼저 '필러 삭제(filler deletion)' 단계에서 'please', 'I think'와 같은 불필요한 수식어나 완충어를 제거합니다. 다음으로 '동의어 교체(synonym swap)'를 통해 더 적은 토큰을 사용하는 동의어로 단어를 바꿉니다. 세 번째 '정의어 교체(gloss swap)'는 단어의 사전적 정의에서 가장 짧은 단어로 대체하는 방식으로, 의미 손실이 가장 큰 단계이므로 필요에 따라 비활성화할 수 있습니다. 마지막으로 '핵심 단어 추출(reduction)' 단계에서는 나머지 불용어(stopwords)를 제거하고 품사별 핵심 단어만 추출하여 중복을 제거합니다. 특히, CJK(중국어, 일본어, 한국어) 토크나이저 모델 사용자를 위해 각 단어를 한자(Classical Chinese character) 하나로 바꾸는 '--level wenyan' 옵션도 제공하여, 특정 모델에서는 더 큰 절감 효과를 볼 수 있습니다.
이러한 토큰 절감 기술은 대규모 언어모델(LLM) 기반 서비스의 운영 비용을 직접적으로 낮춰, AI 애플리케이션 개발의 진입 장벽을 낮추고 혁신을 촉진할 수 있습니다. 투로는 클로드 코드(Claude Code), 코덱스(Codex), 제미니(Gemini), 커서(Cursor) 등 20가지 이상의 다양한 코딩 AI 에이전트와 연동 가능하며, 코드를 포함한 경로 및 식별자(identifier)는 변경 없이 그대로 통과시키는 안전성을 보장합니다. 매번 프롬프트와 응답에서 토큰을 절약함으로써 누적되는 비용 절감 효과는 장기적으로 상당한 이점을 제공할 것입니다. 이는 AI 기술의 대중화와 상업적 활용을 가속화하는 중요한 진전으로 평가됩니다.