대규모 언어모델(LLM)의 윤리적 판단이 인간의 판단과 일치하더라도, 그 판단의 근거가 다를 수 있다는 연구 결과가 나왔습니다. 이는 LLM의 윤리적 정렬(alignment)을 평가할 때 최종 결과의 일치 여부만으로는 불충분하며, 모델이 어떤 도덕적 원칙에 기반하여 판단하는지 심층적으로 분석해야 함을 강조합니다.
옥타비안 M. 마치돈(Octavian M. Machidon) 외 연구진은 500개 항목으로 구성된 ETHICS 기반 벤치마크를 활용하여 인간과 LLM의 윤리적 판단을 비교했습니다. 이 벤치마크는 해악(harm), 존중(respect), 약속 이행(promise-keeping), 정의(justice) 등 다섯 가지 도덕적 판단 영역을 포괄합니다. 연구 결과, 최신 LLM들은 인간 주석자(annotator)의 다수 의견과 최종 판단 결과가 높은 일치율을 보였지만, 판단의 근거가 되는 '합리적 설명(rationale)' 수준에서는 체계적인 차이가 발견되었습니다. 모델들은 인간과 동일한 결론에 도달하더라도, 해악, 존중, 약속 이행, 정의, 응당성(desert), 변명 관련성(excuse relevance) 등 다양한 도덕적 범주에 대한 주의(attention)를 다르게 배분하는 경향을 보였습니다.
이 연구는 LLM의 윤리적 정렬을 평가할 때 단순히 최종 레이블(label) 일치만을 기준으로 삼는 것이 오해를 불러일으킬 수 있음을 보여줍니다. 모델이 인간과 같은 판단을 내리더라도, 그 이면에 숨겨진 도덕적 원칙이나 우선순위가 다르다면 예상치 못한 상황에서 비윤리적인 결정을 내릴 가능성이 있습니다. 따라서 LLM 개발 및 평가 과정에서 모델의 판단 이유와 근거를 분석하는 것이 더욱 중요해졌으며, 이는 AI의 신뢰성과 안전성을 확보하는 데 필수적인 단계로 작용할 것입니다.