대규모 언어 모델(LLM) 통합을 위한 인기 라이브러리 LiteLLM의 핵심 기능만을 추출한 경량 버전 'Litelm'이 알파(Alpha) 단계로 공개되었습니다. Litelm은 LiteLLM이 제공하는 방대한 기능 중 모델 라우팅과 메시지 변환 등 LLM 호출 경로에만 집중하여, 약 2,900줄의 코드와 최소한의 의존성(openai, httpx)으로 구현되었습니다. 이는 10만 줄이 넘는 LiteLLM의 코드베이스와 대비되며, 불필요한 복잡성을 덜어내고자 하는 개발자들에게 매력적인 대안이 될 것으로 보입니다.
Litelm은 19개 LLM 제공자를 'provider/model' 형식으로 호출할 수 있으며, 스트리밍, 도구 사용(tool use), 임베딩(embedding), 텍스트 완성(text completion), OpenAI 응답 API(OpenAI Responses API) 등 핵심 기능을 지원합니다. LiteLLM과 동일한 함수명, 인자, 응답 타입을 사용하여 기존 LiteLLM 사용자가 쉽게 전환할 수 있도록 설계되었습니다. 하지만 부하 분산(load balancing)과 대체 경로를 담당하는 라우터(Router), 프록시(proxy), 캐싱(caching), 비용 추적(cost tracking) 등은 Litelm의 지원 범위에서 제외되었습니다. 현재 알파 단계임에도 262개의 자체 테스트와 LiteLLM에서 이식한 75개의 테스트를 통과하며 안정성을 검증받고 있습니다.
이 프로젝트는 LLM을 활용한 개발에서 '경량화'와 '단순성'의 가치를 다시 한번 강조합니다. LiteLLM과 같은 포괄적인 솔루션이 필요한 경우도 있지만, 특정 기능(LLM 호출 및 응답 처리)에만 집중하여 오버헤드를 줄이고자 하는 개발자들에게 Litelm은 효율적인 선택지가 될 수 있습니다. 특히, AI 보조 개발 방식(Claude Code, GPT-5.5 활용)으로 코드를 작성했다는 점도 흥미로운 부분입니다. 이는 AI가 실제 소프트웨어 개발 과정에서 생산성을 높이는 도구로 활용될 수 있음을 보여주는 사례이기도 합니다. Litelm의 등장은 LLM 통합 라이브러리 시장에 새로운 경쟁을 촉발하고, 개발자들이 자신의 프로젝트에 가장 적합한 도구를 선택할 수 있는 폭을 넓혀줄 것으로 기대됩니다.