국내 인공지능(AI) 스타트업 업스테이지(Upstage)가 단일 GPU 환경에서도 효율적으로 구동되는 소형 언어 모델(SLM) '솔라 미니 4(Solar Mini 4)'를 공개했습니다. 이 모델은 정보 조회, 문서 분류, 도구 호출과 같은 반복적인 에이전트 작업을 적은 연산 자원과 비용으로 처리하도록 설계되어, 기업의 AI 도입 장벽을 낮출 것으로 기대됩니다.
솔라 미니 4는 총 350억 개의 파라미터를 가지고 있지만, 실제 추론 시에는 토큰당 30억 개의 파라미터만 활성화하는 MoE(Mixture-of-Experts) 구조를 채택했습니다. 이는 적은 연산으로도 높은 성능을 구현할 수 있게 하며, 특히 양자화(quantization)된 모델은 엔비디아(NVIDIA) H100 80GB GPU 한 장만으로도 배포가 가능합니다. 512K 컨텍스트를 지원하여 긴 문서 처리 능력이 뛰어나고, JSON 구조화 출력 및 병렬 도구 호출 기능을 통해 사내 시스템 연동과 다양한 정보 조회 작업에 유용하게 활용될 수 있습니다. 실제 성능 평가에서는 AutomationBench-AA에서 22.3%, τ³-Banking에서 47.2점을 기록하며 동급 모델 중 최고 수준의 효율성을 입증했습니다.
솔라 미니 4의 출시는 기업들이 대규모 언어모델(LLM)을 활용해 업무 자동화를 구현하는 데 있어 비용과 인프라 부담을 크게 줄여줄 것으로 보입니다. 특히 계약서 항목 추출, 고객 문의 분류, 사내 규정에 따른 후속 처리 등 반복적이고 정형화된 업무에 특화되어 있어, 기업 내부 시스템에 AI 에이전트를 손쉽게 통합할 수 있게 합니다. API 형태로 제공되며 온프레미스(On-premise) 배포도 지원하여, 보안과 데이터 주권이 중요한 기업 환경에서도 유연하게 적용될 수 있다는 점에서 의미가 큽니다.