대규모 언어모델(LLM) 기반 에이전트가 복잡한 상호작용 환경에서 강력한 역량을 보여주고 있지만, 실제 세계처럼 경험을 통해 스스로 학습하고 진화하는 능력은 여전히 제한적입니다. 기존에는 모델의 매개변수를 직접 수정하는 미세조정(fine-tuning) 방식이 주로 사용되었으나, 이는 대규모 혹은 비공개 LLM의 경우 높은 컴퓨팅 비용과 매개변수 접근의 어려움 때문에 유연성이 크게 떨어지는 단점이 있었습니다. 또한, 외부 메모리를 활용하는 대안도 있었지만, 대부분 경험의 저장 및 구성에 초점을 맞춰 지식이 특정 작업이나 맥락에 강하게 묶여 일반화하기 어렵다는 문제가 있었습니다.
이러한 한계를 극복하기 위해, 최근 연구에서 SAGA(Self-evolving Agents through Experience-Grounded Abstraction)라는 새로운 프레임워크가 제안되었습니다. SAGA는 LLM 에이전트가 구체적인 상호작용 경험을 추상적인 지식으로 변환하고 이를 활용하여 스스로 진화하도록 돕습니다. 이 프레임워크는 상호작용 궤적을 에피소드 설명, 재사용 가능한 절차, 그리고 명시적인 적용 조건을 가진 원칙으로 점진적으로 변환하며, 각 지식은 실제 실행 증거와 연결됩니다. 이렇게 추상화된 원칙들은 특정 작업에 맞는 지침으로 구체화되고, 에이전트의 후보 행동을 교정 피드백과 재샘플링을 통해 개선하는 데 사용됩니다.
SAGA는 실행과 추상화 간의 피드백 루프를 생성하여, 축적된 지식이 미래의 상호작용을 안내하고 새로운 경험이 계층적 메모리를 지속적으로 업데이트하도록 합니다. ScienceWorld와 ALFWorld 같은 환경에서의 실험 결과, SAGA는 향상된 작업 성능을 보여주었으며, 문맥적 구체화(contextual instantiation)와 행동 규제(action regulation)가 원칙 수준의 지식을 활용하는 데 중요함을 입증했습니다. 이 연구는 LLM 에이전트가 단순한 반응을 넘어, 경험에서 학습하고 지혜를 축적하여 더욱 지능적인 의사결정을 내릴 수 있는 가능성을 제시하며, 이는 미래의 자율 에이전트 개발에 중요한 진전을 가져올 것으로 기대됩니다.