최근 공개된 '지워(Jiwo)' 프로젝트가 소형 언어모델(LLM)의 새로운 활용 가능성을 제시하며 주목받고 있습니다. 이 프로젝트는 매개변수 10억 개 미만(sub-1B) 및 30억~60억 개(3-6B) 규모의 LLM을 의사결정 모델로 미세조정(fine-tune)하여, 의사결정 인덱스(Decision Index) 리더보드에서 각 카테고리 최상위권에 올랐습니다. 특히 0.8B(8억 개) 모델은 동급 Qwen3.5-0.8B 기반 모델 중 최고 점수를 기록하며, 소형 모델의 효율적인 의사결정 능력을 입증했습니다.
지워 모델은 텍스트를 직접 생성하는 대신, 주어진 상태(state)와 질문에 대해 각 옵션의 확률을 단 한 번의 순방향 패스(forward pass)로 반환하는 방식으로 작동합니다. 예를 들어, 고객 불만 메시지를 입력하면 '환불' 또는 '배송' 중 어떤 팀이 처리해야 할지, 고객이 '화가 났는지' 여부, '긴급성' 수준 등을 확률로 제시합니다. 이는 TypeSafe의 Jev API 형식을 따르며, H100 GPU에서 중앙값 50ms라는 매우 빠른 응답 속도를 자랑합니다. 개발자는 대부분의 시간을 데이터 보정(data calibration)과 외부 데이터셋 재적응에 할애하여 모델의 성능을 극대화했다고 밝혔습니다.
지워와 같은 소형 의사결정 모델의 등장은 대규모 언어모델(LLM)이 가진 높은 비용과 느린 응답 속도 문제를 해결할 대안으로 평가됩니다. 텍스트 생성 없이 특정 의사결정에만 집중함으로써, 자원 효율성을 극대화하고 실시간에 가까운 응답이 필요한 다양한 자동화 시스템에 적용될 수 있습니다. 고객 서비스 챗봇의 문의 분류, 콘텐츠 모더레이션, 복잡한 비즈니스 프로세스 자동화 등 특정 목적에 최적화된 AI 솔루션 개발에 중요한 기반 기술이 될 것으로 기대됩니다. 이는 LLM 기술이 단순히 범용적인 대화형 AI를 넘어, 특정 도메인의 전문성을 강화하는 방향으로 진화하고 있음을 보여주는 사례입니다.