인공지능(AI) 모델을 경량화하는 가지치기(pruning) 기술은 모델의 크기를 줄여 효율성을 높이는 데 필수적입니다. 하지만 이 과정에서 모델의 예측 신뢰도(calibration)가 저하될 수 있다는 문제가 있었습니다. 최근 발표된 연구 논문은 이러한 한계를 극복하기 위한 새로운 접근 방식인 '보정 보존 가지치기(Calibration-Preserving Pruning, CPP)'를 제안하며, 모델 압축과 신뢰성 유지라는 두 마리 토끼를 잡을 수 있는 가능성을 제시했습니다.
CPP는 기존 가지치기 점수에 '비순응도-경사도(nonconformity-gradient saliency)'를 추가하여 모델의 예측 신뢰도에 미치는 영향을 최소화합니다. 또한, 가지치기, 유효성 검사, 보정, 테스트 등 각 단계에 서로 다른 데이터 분할(disjoint splits)을 사용하여 모델의 신뢰성을 더욱 강화합니다. 연구팀은 Qwen2.5-1.5B 모델에 50%의 희소성(sparsity)을 적용한 실험에서, CPP-SparseGPT가 DBpedia-14 데이터셋에서 평균 예측 세트 크기를 10.1에서 8.6으로 줄이면서 정확도는 0.347에서 0.366으로 향상시키는 인상적인 결과를 보여주었습니다. CPP-Wanda 역시 예측 세트 크기를 11.2에서 9.0으로 줄였습니다. 이는 모델을 경량화하면서도 예측의 불확실성을 줄여 더 정밀한 결과를 얻을 수 있음을 의미합니다.
이러한 CPP 기술은 대규모 언어모델(LLM)과 같이 크고 복잡한 AI 모델의 실제 적용 가능성을 크게 높일 수 있습니다. 모델이 작아지면 추론(inference) 속도가 빨라지고 운영 비용이 절감되며, 엣지 디바이스와 같이 자원이 제한적인 환경에서도 AI를 활용할 수 있게 됩니다. 동시에 예측 신뢰도를 유지함으로써, 의료 진단이나 자율주행 등 높은 신뢰성이 요구되는 분야에서 AI 모델의 활용도를 넓힐 수 있습니다. 결과적으로 CPP는 AI 모델의 효율성과 신뢰성이라는 두 가지 핵심 가치를 동시에 충족시키며, AI 기술의 상업적 및 사회적 적용 범위를 확장하는 데 중요한 역할을 할 것으로 기대됩니다.