시간 그래프 네트워크(Temporal Graph Networks, TGN)는 소셜 네트워크, 추천 시스템 등 시간에 따라 변화하는 복잡한 관계 데이터를 분석하는 데 탁월한 성능을 보여왔습니다. 하지만 이러한 모델이 어떤 과거 사건이나 데이터 패턴을 기반으로 예측을 내리는지 설명하기 어렵다는 '설명 가능성(explainability)' 문제가 꾸준히 제기되어 왔습니다. 모델의 예측이 왜 나왔는지 이해하지 못하면, 중요한 의사결정 과정에서 모델을 신뢰하기 어렵기 때문입니다.
최근 Yazheng Liu 외 연구진은 TGN의 설명 가능성을 획기적으로 개선할 수 있는 새로운 방법론을 제안했습니다. 이들은 기존 설명 방식들이 간과했던 TGN의 핵심 구성 요소인 '메모리 모듈'에 주목했습니다. 메모리 모듈은 각 노드의 과거 이력을 기록하고 업데이트하는 역할을 하는데, 연구진은 이 모듈의 영향을 추적하기 위해 '위상 기여 트리(topology attribution tree)'와 '메모리 백트래킹 트리(memory backtracking tree)'를 도입했습니다. 위상 기여 트리는 이웃 노드와 그들의 메모리 벡터가 예측에 미치는 영향을 포착하고, 메모리 백트래킹 트리는 과거 사건들이 노드의 메모리 벡터를 어떻게 형성하는지 정량화합니다. 이 방법론은 LRP(Layer-wise Relevance Propagation)를 TGN에 적용하여 모든 사건의 총 기여도가 모델의 로짓(logits)과 일치하도록 보장하며, 중요한 사건을 식별하기 위한 최적화 목표도 설계했습니다.
이 연구는 TGN의 신뢰성을 높이고 실제 적용 범위를 확장하는 데 중요한 의미를 가집니다. 예를 들어, 금융 사기 탐지 모델이 특정 거래를 사기로 예측했을 때, 어떤 과거 거래 기록이나 관계 변화가 이러한 예측을 유발했는지 명확히 설명할 수 있게 됩니다. 이는 규제 준수뿐만 아니라 사용자나 의사결정자가 모델의 판단을 이해하고 수용하는 데 필수적입니다. 또한, 이 방법론은 노드 속성 예측, 링크 예측, 그래프 분류 등 다양한 시간 그래프 데이터셋에서 기존 최첨단(state-of-the-art) 방식보다 더 신뢰할 수 있는 설명을 제공함을 실험을 통해 입증했습니다. 이 기술은 복잡한 AI 모델의 '블랙박스' 문제를 해결하고, AI 시스템이 사회에 더 깊이 통합될 수 있는 기반을 마련할 것으로 기대됩니다.