대규모 언어모델(LLM)의 안전한 배포를 위해서는 모델이 자신의 답변을 얼마나 확신하는지, 즉 불확실성을 정량화하는 것이 필수적입니다. 기존에는 LLM이 스스로 답변 신뢰도를 표현하거나 여러 개의 답변을 생성하여 불확실성을 측정하는 제로샷(zero-shot) 방식이 주로 사용되었습니다. 이 방법들은 별도의 레이블링된 데이터 없이도 불확실성 점수를 제공했지만, 실제 환경에 배포하기 전에는 항상 특정 데이터셋으로 성능을 평가해야 하는 한계가 있었습니다.
최근 Sokhna Diarra Mbacke 연구진은 이러한 배포 전 평가 데이터셋을 적극 활용하여 LLM의 답변 정확도를 예측하는 새로운 접근 방식을 제안했습니다. 연구팀은 기존 불확실성 점수와 유사한 질의의 정확도 정보를 특징(feature)으로 사용하여 간단한 분류기(classifier)를 구축했습니다. 이 분류기는 LLM의 응답이 올바른지 여부를 예측하며, 기존의 불확실성 측정 방식보다 일관되게 뛰어난 성능을 보였습니다. 특히, 이 방법은 추가적인 계산 오버헤드(computational overhead)가 거의 없어 실제 애플리케이션에 저렴하고 간단하게 적용할 수 있는 장점이 있습니다.
이 연구는 블랙박스(black-box) 형태의 LLM, 즉 내부 작동 방식을 알기 어려운 모델의 신뢰도를 향상시키는 중요한 진전을 보여줍니다. LLM이 제공하는 정보의 신뢰도를 정확히 파악하는 것은 오정보 확산을 막고, 의료나 금융처럼 높은 정확성이 요구되는 분야에서 LLM을 안전하게 활용하는 데 필수적입니다. 이번 연구를 통해 개발된 간단하면서도 효과적인 신뢰도 추정 방법은 LLM의 실제 적용 가능성을 높이고, 사용자들이 모델의 답변을 더욱 신뢰할 수 있게 함으로써 LLM 기술의 상용화와 확산에 긍정적인 영향을 미칠 것으로 예상됩니다.