인공지능(AI) 기술의 민주화는 단순히 최첨단 대규모 언어모델(LLM)의 성능을 따라잡는 문제가 아니라, 일반 기업이나 기관이 현실적인 하드웨어 및 거버넌스 제약 조건 내에서 AI 모델을 선택하고, 감사하며, 특화할 수 있는지에 달려 있습니다. 최근 발표된 한 연구는 이러한 문제의식을 바탕으로, 30억 개 이하의 매개변수(parameter)를 가진 소형 언어모델(SLM)들이 특정 전문 작업에서 얼마나 효과적으로 활용될 수 있는지에 대한 가능성을 제시했습니다.
다니엘 세르소시모(Daniel Cersosimo)의 연구는 1억 3,500만 개에서 30억 개 사이의 매개변수를 가진 9가지 오픈 소스(open-weight) 언어모델을 대상으로 진행되었습니다. 연구팀은 1,085개의 예시와 16가지 주제로 구성된 객관식 벤치마크를 개발하여, 모델들이 기호적 정확성, 형식 제약, 정보 추출, 단기적 의미론적 의사 결정 능력을 엄격한 단일 문자 출력 프로토콜 하에 평가했습니다. 기본 평가에서 Qwen Coder 3B 모델이 75.67%의 가장 높은 정확도를 기록했으며, Qwen2.5 1.5B(67.10%), Qwen3.5 2B(64.98%), Granite 3.3 2B(64.61%)가 그 뒤를 이었습니다. 또한, 4비트 NF4 양자화(quantization)와 DoRA/LoRA 방식의 어댑터(adapter)를 활용한 매개변수 효율적 미세조정(Parameter-Efficient Fine-Tuning, PEFT)을 통해, Qwen Coder 3B는 26.85%p, SmolLM2 1.7B는 25.92%p의 성능 향상을 보이며 소형 모델의 잠재력을 입증했습니다.
이 연구 결과는 엄격한 벤치마크 구축, 다양한 모델 평가, 그리고 저비용 특화(low-cost specialization)라는 체계적인 워크플로우를 통해 30억 개 미만의 소형 모델들도 특정 전문 분야에서 로컬(local) AI 전문가로 충분히 활용될 수 있음을 시사합니다. 이는 대규모 컴퓨팅 자원 없이도 AI를 자체적으로 구축하고 운영하려는 중소기업이나 개인 개발자에게 매우 중요한 의미를 가집니다. AI 기술의 접근성을 높이고, 특정 산업이나 기업의 고유한 데이터와 환경에 맞춰 AI를 맞춤형으로 적용할 수 있는 길을 열어 AI 민주화에 한 걸음 더 다가섰다고 볼 수 있습니다.