멀티모달 대규모 언어모델(LLM)이 이미지나 음성 같은 비텍스트 정보와 텍스트 정보가 서로 상충할 때, 어떤 정보를 더 신뢰하는지는 중요한 문제입니다. 최근 연구에 따르면, 이러한 충돌 상황에서 모델의 판단이 정보가 제시되는 순서에 따라 달라질 수 있다는 사실이 밝혀졌습니다. 즉, 동일한 증거라도 제시 순서가 바뀌면 모델의 최종 판단도 달라지는 '증거 비가환성(evidence noncommutativity)'이 확인되었습니다.
이 연구는 기존의 텍스트 편향성 연구들이 정보 제시 순서를 고정하거나 지시 사항을 함께 옮겨 순서의 영향을 명확히 파악하기 어려웠던 한계를 극복했습니다. 연구팀은 지시 사항과 증거 내용은 고정한 채, 두 정보원(텍스트와 이미지/음성)의 위치만 바꿔가며 모델의 반응을 비교했습니다. 그 결과, 시각 또는 음성 정보가 충돌하는 텍스트 정보보다 나중에 제시될 때, 모델이 해당 시각/음성 정보 쪽으로 답변을 더 많이 바꾸는 일관된 경향을 보였습니다. 이는 모델이 나중에 들어온 정보를 더 중요하게 여기는 일종의 '최신성 편향(recency bias)'을 가지고 있을 수 있음을 시사합니다.
이러한 발견은 멀티모달 AI 시스템의 신뢰성과 공정성을 평가하고 개선하는 데 중요한 의미를 가집니다. AI 모델이 정보의 내용뿐만 아니라 제시 순서에 따라 판단을 바꾼다면, 이는 의도치 않은 편향으로 이어질 수 있기 때문입니다. 개발자들은 모델 학습 및 배포 시 이러한 증거 비가환성을 고려하여, 정보 제시 순서에 따른 편향을 최소화하고 보다 견고하고 공정한 AI 시스템을 구축해야 할 것입니다. 사용자 입장에서도 멀티모달 AI의 답변을 해석할 때, 정보의 제시 순서가 결과에 영향을 미칠 수 있다는 점을 인지하는 것이 중요합니다.