인공지능(AI) 모델이 텍스트를 분류할 때, 어떤 단어가 예측에 큰 영향을 미쳤는지 설명해주는 SHAP(SHapley Additive exPlanations)이나 LIME(Local Interpretable Model-agnostic Explanations) 같은 사후 설명(post hoc explanation) 방법론은 AI의 투명성을 높이는 데 필수적입니다. 하지만 이러한 설명 도구들의 시각화는 주로 영어처럼 좌측에서 우측으로 읽는 언어(Left-to-Right, LTR)에 맞춰 설계되어 왔습니다. 이로 인해 우르두어, 아랍어, 페르시아어, 히브리어와 같이 우측에서 좌측으로 읽는 언어(Right-to-Left, RTL)에 적용될 경우, 설명 값 자체는 유효하더라도 시각적 표현이 심각하게 왜곡되는 문제가 발생했습니다.
Rameesha Zia와 Muhammad Shahid Iqbal Malik 연구팀은 이러한 문제를 시각화의 한계로 보고, 이를 해결하기 위한 SHAP-RTL이라는 새로운 렌더링 레이어를 개발했습니다. SHAP-RTL은 기존 SHAP 및 LIME 시각화에서 텍스트의 읽기 방향과 스크립트 형태를 교정하며, 각 언어에 맞는 글꼴 선택 기능을 제공합니다. 이 과정에서 원래의 기여도 값, 특징어 순서, 모델 출력은 그대로 유지됩니다. 연구팀은 우르두어, 아랍어, 히브리어, 페르시아어 증오 및 공격적 언어 데이터셋에 TF-IDF와 로지스틱 회귀 분류기를 사용해 SHAP-RTL을 평가했습니다. 그 결과, 기본 렌더링 방식은 0.820에서 0.979에 이르는 높은 문자 오류율(character error rate)을 보였고, 일반적인 우회 해결책조차 우르두어에서는 0.998로 더 나쁜 결과를 보였습니다. 반면, SHAP-RTL은 모든 상황에서 정확한 렌더링을 유지했습니다.
이 연구는 AI 설명 가능성(XAI) 분야에서 언어적 다양성을 고려한 시각화의 중요성을 강조합니다. AI 모델의 설명이 아무리 정확해도, 사용자가 이를 제대로 읽고 이해할 수 없다면 그 가치는 크게 떨어집니다. 특히 전 세계 인구의 상당수가 RTL 언어를 사용한다는 점을 고려할 때, SHAP-RTL과 같은 솔루션은 AI 기술의 포용성을 높이고 더 많은 사용자가 AI의 작동 방식을 신뢰하고 이해할 수 있도록 돕는 중요한 역할을 합니다. 이는 AI 윤리 및 책임감 있는 AI 개발 측면에서도 의미 있는 진전이라 할 수 있습니다.