딥러닝 모델은 시계열 예측 분야에서 강력한 잠재력을 보여왔지만, 실제 환경 모니터링과 같은 복잡한 시나리오에서는 여전히 많은 어려움에 직면합니다. 특히 데이터 분포가 시간에 따라 변하는 비정상성(non-stationary dynamics)과 모델이 왜 특정 예측을 내놓는지 이해하기 어려운 낮은 설명 가능성(limited explainability)이 주요 걸림돌로 작용합니다.
최근 발표된 연구는 이러한 문제를 해결하기 위해 지속 학습(Continual Learning) 환경에서 설명 가능성을 핵심 도구로 활용하는 방안을 탐구했습니다. 연구팀은 패치믹서(PatchMixer), 패치TST(PatchTST), DLinear와 같은 신경망 예측 아키텍처에 어텐션(attention) 기반 샘플링 메커니즘을 추가하여 모델이 시간에 따라 적응하도록 지원했습니다. 특히 경험 재생(Experience Replay) 전략을 통해 과거 데이터를 효과적으로 재활용하며 지속적인 학습을 가능하게 했고, 어텐션 롤아웃(attention rollout) 및 그라디언트 기반 귀인(attribution) 방법(Grad-CAM)을 활용하여 예측 동작과 샘플링 전략을 분석했습니다. 실제 지하수위 시계열 데이터(piezometric time series)를 활용한 실험에서, 모델과 샘플링 동작을 분석하는 것이 지속 학습 프레임워크의 동역학을 이해하는 데 귀중한 통찰을 제공한다는 것을 확인했습니다.
이 연구는 단순히 예측 성능을 높이는 것을 넘어, 지속 학습 모델이 어떻게 작동하고 시간이 지남에 따라 귀인 패턴(attribution patterns)이 어떻게 진화하는지를 설명 가능성을 통해 밝혀냈다는 점에서 중요합니다. 이는 비정상적인 예측 시나리오에서 데이터 선택 및 적응 전략을 개선하는 데 중요한 정보를 제공하며, 궁극적으로 딥러닝 모델의 실제 적용 가능성을 높이는 데 기여할 것입니다. 앞으로 설명 가능성 기법은 변화하는 환경에 능동적으로 대처해야 하는 다양한 시계열 예측 애플리케이션에서 필수적인 요소가 될 것으로 보입니다.