분산된 데이터를 활용하는 연합 학습(Federated Learning, FL)과 새로운 정보가 지속적으로 추가되는 연속 학습(Continual Learning, CL)은 현대 인공지능 시스템의 중요한 축입니다. 이 두 가지를 결합한 연합 클래스 점진적 학습(Federated Class Incremental Learning, FCIL)은 실제 환경에서 지능형 시스템이 마주하는 복잡한 문제들을 해결하는 데 필수적이지만, 이질적인 클라이언트(spatial interference)와 순차적인 작업(temporal interference)으로 인해 치명적인 기억 상실(Spatial-Temporal Catastrophic Forgetting, ST-CF) 문제를 겪습니다.
김재익, 도재영 연구진은 이 문제를 해결하기 위해 'SUM(Unified Geometric Surgery on Spatio-Temporal Adaptation Vectors)'이라는 새로운 서버 측 프레임워크를 제안했습니다. SUM은 FCIL을 통합된 다중 작업 학습(multi-task learning) 문제로 재해석하여, 클라이언트와 작업 업데이트를 공유된 매개변수 공간 내 적응 벡터(adaptation vector)로 표현합니다. 이 접근 방식을 통해 SUM은 서버 단에서 적응 벡터에 기하학적 수술(geometric surgery)을 수행하여, 클라이언트 간 간섭을 완화하고 시간 경과에 따른 작업 간 간섭을 제거합니다. 특히, 기존 연합 학습의 클라이언트 측 계산, 통신, 메모리 부담을 늘리지 않으면서도 문제를 해결한다는 강점이 있습니다.
SUM은 다양한 비전 및 언어 벤치마크에서 기존 FCIL 방법보다 최대 22% 향상된 성능을 보여주며, 신뢰할 수 없는 클라이언트 환경에서도 견고함을 유지하고 계산 효율성을 확보했습니다. 이는 연합 학습 환경에서 모델이 새로운 지식을 효과적으로 학습하면서도 기존 지식을 잊지 않도록 하는 중요한 진전입니다. 이번 연구는 연합 학습의 실용성을 크게 높여, 의료, 금융 등 민감한 데이터를 다루는 분야에서 더욱 안전하고 효율적인 AI 시스템 구축에 기여할 것으로 기대됩니다.