개인화된 연합 학습(PFL)은 연합 학습(Federated Learning)의 중요한 접근 방식 중 하나로, 각 클라이언트(client)의 데이터 분포가 다른 통계적 이질성 문제를 해결하면서도 클라이언트별 맞춤형 모델을 제공합니다. 기존 PFL 방법들은 모델을 모든 클라이언트가 공유하는 매개변수(shared parameters)와 각 클라이언트가 개별적으로 사용하는 개인화 매개변수(personalized parameters)로 나누어 학습합니다. 그러나 이 방식은 공유 매개변수가 각기 다른 로컬 목표를 최적화하는 클라이언트들에 의해 업데이트되면서 일관성이 저해되고, 결과적으로 공유 표현(shared representation)의 품질이 약화되는 최적화 문제를 야기했습니다.
이러한 문제를 해결하기 위해, 최근 연구진은 모듈형 보정 방법인 FedSPC(Federated Shared Parameter Correction)를 제안했습니다. FedSPC는 기존 PFL 방식에 통합될 수 있도록 설계되었으며, 특히 공유 매개변수에만 제어 변량 보정(control-variate correction)을 적용하고 개인화 매개변수는 그대로 유지합니다. 이 방법은 공유 특징 추출기(shared feature extractors), 공유 분류기(shared classifiers), 그리고 로컬 정규화(local regularization)를 사용하는 완전 공유 모델 등 세 가지 일반적인 PFL 설정에 모두 적용 가능합니다. CIFAR-100 및 Tiny-ImageNet 데이터셋과 ViT, ResNet-34, VGG-11 같은 다양한 모델 아키텍처를 사용한 실험에서 FedSPC는 FedPer, FedRep, FedBABU, LG-FedAvg, Ditto 등 대표적인 PFL 방법들의 성능을 일관되게 향상시키는 것으로 나타났습니다.
FedSPC의 등장은 개인화된 연합 학습의 실용성을 한 단계 끌어올릴 중요한 진전으로 평가됩니다. 공유 매개변수의 불일치 문제를 해결함으로써, 각 클라이언트의 특성을 반영하면서도 전반적인 모델의 견고성과 성능을 유지할 수 있게 되었습니다. 이는 의료, 금융, 모바일 기기 등 민감한 데이터를 다루는 다양한 분야에서 개인 정보 보호를 유지하면서도 고품질의 맞춤형 AI 서비스를 제공하는 데 기여할 것입니다. 앞으로 FedSPC와 같은 보정 기술의 발전은 연합 학습이 실제 환경에 더 널리 적용되는 길을 열어줄 것으로 기대됩니다.