인공지능(AI) 모델이 새로운 데이터를 학습하며 지속적으로 업데이트될 때, 이전에 학습했던 중요한 지식을 잊어버리는 '연속 학습의 망각(catastrophic forgetting)' 문제는 오랜 난제였습니다. 최근 아나프 하산 아리크(Ahanaf Hasan Ariq) 연구팀은 이러한 망각 현상을 체계적으로 관리하고 방지하는 새로운 방법론인 CABA(Certified Anchor-Based Adaptation)를 발표했습니다. CABA는 모델 업데이트 후에도 특정 행동의 일관성을 보장하는 검증된 접근 방식을 제공합니다.
CABA는 '앵커(anchor)'라고 불리는 중요한 과거 관측 데이터를 따로 보관하고, 모델 업데이트 후보가 기존 정책과 얼마나 다른지 비교합니다. 이 과정에서 '최악의 앵커(worst-anchor)'에 대한 행동 변화가 미리 설정된 허용 범위(예산)를 넘지 않도록 가장 적합한 보간 계수(interpolation coefficient)를 선택합니다. 이 방법은 행동 레이블이나 전체 데이터 궤적 없이도 유한한 검증이 가능하며, 특정 표현 범위와 립시츠(Lipschitz) 연속성 가정을 통해 업데이트 후에도 보호된 행동에 대한 균일한 발산(divergence) 한계를 만족시킵니다. 실제 UCI 인간 활동 인식(Human Activity Recognition) 연구에서 CABA는 무제한 적응 시 1.01%에 달했던 평균 망각률을 예산 엡실론(epsilon) 0.05에서 0.00%로 줄이는 데 성공했습니다.
이 기술은 AI 모델의 신뢰성과 안정성을 크게 향상시킬 수 있다는 점에서 중요합니다. 특히 자율주행, 의료 진단, 금융 거래와 같이 모델의 예측 행동이 일관되고 예측 가능해야 하는 민감한 분야에서 CABA는 필수적인 요소가 될 수 있습니다. 모델이 새로운 환경에 적응하면서도 핵심적인 안전 규칙이나 윤리적 가이드라인을 잊지 않도록 보장함으로써, AI 시스템의 실제 배포를 가속화하고 대중의 신뢰를 얻는 데 기여할 것입니다. 다만, 연구팀은 이 실험이 파운데이션 모델(foundation model)이나 로봇 성능을 직접적으로 입증하는 것은 아니며, 유지(retention)와 유연성(plasticity) 사이의 상충 관계(trade-off)를 보여준다고 덧붙였습니다.