기업 환경에서 인공지능(AI) 에이전트의 지속적인 학습(continual learning)은 중요한 과제입니다. 기존에는 AI가 새로운 정보를 학습하면서 이전 지식을 잊지 않도록 보존하는 데 중점을 두었지만, 최근 연구는 이러한 접근 방식이 변화무쌍한 기업 환경에는 불완전하다고 지적합니다. 고객, 정책, 규제, 시장 상황 등이 끊임없이 변하는 상황에서 오래된 지식을 무조건 유지하는 것은 오히려 잘못된 의사결정으로 이어질 수 있기 때문입니다.
이러한 문제를 해결하기 위해 '가역적 망각(reversible forgetting)'이라는 새로운 개념이 제안되었습니다. 이 프레임워크는 AI의 지식을 '활성(active)', '휴면(dormant)', '폐기(retired)'의 세 가지 상태로 나누어 관리합니다. 불필요해진 지식은 휴면 상태로 전환되어 의사결정 영향력을 줄이고, 만약 해당 지식이 다시 중요해지면 '재활성화(reactivation)' 과정을 통해 복원될 수 있습니다. 연구팀은 이를 구현하기 위해 '히스테리시스 가역 메모리 컨트롤러(Hysteretic Reversible Memory Controller)'를 개발했는데, 이는 지식의 관련성 증거를 축적하고, 비대칭 임계값을 사용해 상태 전환의 불필요한 반복을 막으며, 재활성화를 '섀도 모드(shadow mode)'에서 테스트하고 정책을 통해 폐기를 관리합니다. 예를 들어, 금융 시장에서 특정 시기에 유용했던 지식이 시장 상황 변화로 해로워질 수 있지만, 유사한 시장 조건이 재현될 경우 다시 유용해질 수 있는 시나리오에 적용될 수 있습니다.
가역적 망각 프레임워크는 기업 AI 에이전트가 변화하는 비즈니스 환경에 더욱 민첩하고 안전하게 대응할 수 있도록 돕습니다. 오래된 정보가 의사결정에 미치는 부정적인 영향을 줄이면서도, 일시적인 비활성화와 영구적인 삭제를 혼동하지 않아 잠재적으로 다시 유용해질 수 있는 지식을 보존한다는 점에서 큰 의미가 있습니다. 이는 AI의 신뢰성을 높이고 운영 리스크를 감소시켜, 궁극적으로 기업의 비즈니스 연속성과 효율성을 향상시키는 데 기여할 것으로 기대됩니다.