인공지능(AI)의 사회적 지능을 높이려는 노력이 계속되는 가운데, 최근 연구에서 대규모 언어모델(LLM)이 사회적 규범 위반 상황을 인간과 다르게 인식한다는 흥미로운 결과가 나왔습니다. 기존 AI 연구는 '훔치지 마라'와 같은 1차 사회적 규범(social norms)을 가르치는 데 집중했지만, 이번 연구는 규범 위반 시 '누가 어떻게 반응할까'에 대한 2차 사회적 추론, 즉 '메타규범(metanorms)' 이해도를 평가했습니다. 그 결과, LLM은 실제보다 훨씬 가혹한 사회를 예측하는 경향이 있는 것으로 나타났습니다.
써니 라이(Sunny Rai) 외 8명의 연구진은 '메타규범' 추론을 평가하기 위한 새로운 프레임워크를 제시하고, 'NormReact'라는 다각적 데이터셋을 구축했습니다. 이 데이터셋은 450가지 규범 위반 시나리오에 대해 위반자의 감정적 평가와 행동 반응, 그리고 관찰자의 사회적 친밀도에 따른 감정 및 행동 반응을 수작업으로 주석(hand-annotated) 처리했습니다. 6개 LLM을 대상으로 테스트한 결과, 모델들은 인간이 무대응을 예상하는 상황에서도 부정적인 제재를 과도하게 예측했으며, 사회적 거리가 멀어질수록 인간의 판단과의 일치도가 떨어지는 모습을 보였습니다.
이러한 발견은 LLM이 갈등 중재, 정책 시뮬레이션 등 규범에 민감한 영역에서 사회적 규제에 대한 왜곡된 그림을 제시할 위험이 있음을 의미합니다. 모델은 실제 사회에서 나타나는 관용, 자제, 관계적 조율 같은 미묘한 규범 집행 방식보다는 처벌을 과대 대표하는 경향이 있습니다. 이는 AI 시스템이 인간 사회의 복잡한 상호작용을 정확하게 이해하고 반영하기 위해서는 1차 규범을 넘어선 2차 사회적 추론 능력, 즉 메타규범에 대한 깊이 있는 학습이 필수적임을 보여줍니다.