대규모 언어모델(LLM)이 벤치마크에서 높은 정확도를 기록하더라도, 동일한 질문이 다른 방식으로 표현될 때 얼마나 일관성 있게 지식을 적용하는지는 불분명하다는 연구 결과가 나왔습니다. 아카이브(arXiv)에 발표된 논문에 따르면, 질문의 의미는 같지만 표현만 달라져도 모델의 답변이 자주 바뀌는 현상이 관찰되었습니다. 이는 LLM의 신뢰성에 대한 새로운 평가 기준의 필요성을 제기합니다.
이번 연구는 사실 질문 답변과 수학적 추론 과제에 걸쳐 4가지 벤치마크와 13개 모델을 대상으로 진행되었습니다. 분석 결과, 전체적인 정확도는 질문 표현이 바뀌어도 크게 변하지 않았지만, 개별 질문 수준에서는 모델의 동작이 훨씬 불안정한 것으로 드러났습니다. 많은 질문에서 모델은 표현 방식에 따라 정답과 오답을 번갈아 내놓았으며, 불일치율은 23%를 넘기도 했습니다. 특히, 원래 질문에 정확하게 답변했던 경우에도 다른 표현에서는 답변이 뒤바뀌는 현상이 더 크게 나타나, 단일 프롬프트(prompt)의 정확성이 신뢰성을 제대로 반영하지 못함을 보여주었습니다.
흥미로운 점은 모델이 질문의 최소한 한 가지 표현에 대해서는 종종 정답을 내놓는다는 것입니다. 이는 모델이 관련 지식을 내부에 가지고 있지만, 이를 일관성 있게 검색하지 못한다는 것을 시사합니다. 연구진은 이러한 관찰을 바탕으로 간단한 '자기-재표현(self-paraphrasing)' 전략을 통해 잠재된 지식을 부분적으로 복구하고 추론 시 성능을 향상시킬 수 있음을 입증했습니다. 이러한 발견은 표준 정확도 측정 방식이 LLM의 상당한 불안정성을 가릴 수 있으며, 동등한 입력에 대한 일관성을 평가하는 것이 LLM 신뢰성에 대한 더 명확한 그림을 제공한다는 점을 강조합니다.