최근 예측 모델링 분야에서 모델이 특정 결과를 도출하는 이유를 설명하는 능력, 즉 설명 가능성(explainability)이 중요해지고 있습니다. 특히 내부 작동 방식이 불투명한 블랙박스(black-box) 모델은 정확도가 높더라도 그 예측 과정을 이해하고 검증하기 어렵다는 한계가 있었습니다. 이러한 문제 해결을 위해 에밀리아노 마시(Emiliano Massi)는 변수 간의 상호작용에 기반한 새로운 설명 가능 AI(XAI) 방법론인 IMEX(Interaction-Based Model Explanation)를 제안했습니다.
IMEX는 모델 예측에 가장 크게 기여하는 변수와 변수 간의 유의미한 상호작용을 식별하도록 설계되었습니다. 이 방법론은 고차원 상호작용 분석에 제한을 두지 않아, 둘 이상의 변수 조합이 예측에 미치는 영향을 심층적으로 탐색할 수 있습니다. IMEX는 개별 변수의 기여도를 측정하는 정적 상관 관계력(Static Correlation Power, PCS)과 변수 간의 비가법적(non-additive) 효과를 포착하는 상호작용 상관 관계력(Interaction Correlation Power, PCI)이라는 두 가지 상호 보완적인 측정 지표를 기반으로 합니다. 특히 PCS 구성 요소는 알려진 구조를 가진 세 가지 합성 데이터셋(synthetic datasets)에서 INVASE와 비교 실험을 통해 검증되었으며, 비선형적이고 조건부적이며 다중 공선성(multicollinear) 관계가 있는 경우에도 관련성 높은 특성 수준 구조를 복구할 수 있음을 보여주었습니다.
IMEX는 단순히 특성 중요도(feature importance)를 넘어, 결과에 영향을 미치는 잠재적 메커니즘과 일치하는 상호작용 패턴을 탐색할 수 있게 합니다. 이를 통해 예측의 해석 가능성 지도(interpretability map)를 구축하여 AI 모델의 의사결정 과정을 더욱 투명하게 만들 수 있습니다. 이는 의료, 금융 등 AI의 결정이 중요한 영향을 미 미치는 분야에서 모델의 신뢰성을 높이고 규제 준수를 돕는 데 크게 기여할 것입니다. 궁극적으로 IMEX는 AI 시스템의 예측 정확도뿐만 아니라 그 이면에 숨겨진 논리까지 이해함으로써, AI 기술의 사회적 수용성과 활용 범위를 넓히는 데 중요한 역할을 할 것으로 기대됩니다.