최근 대규모 언어모델(LLM)을 활용한 인공지능 에이전트 개발이 활발합니다. 이 에이전트들이 단순히 질문에 답하는 것을 넘어, 복잡한 목표를 설정하고 여러 단계를 거쳐 작업을 수행하려면 '기억(memory)' 기능이 필수적입니다. 사람처럼 과거의 경험을 기억하고 이를 바탕으로 현재의 결정을 내릴 수 있어야 더 똑똑하고 유능한 에이전트가 될 수 있기 때문입니다.
LLM 에이전트의 기억은 크게 두 가지로 나눌 수 있습니다. 첫째는 '단기 기억(short-term memory)'으로, 주로 컨텍스트 창(context window) 내에 저장되는 최근 대화나 정보입니다. 이는 에이전트가 당장 처리해야 할 작업에 대한 맥락을 유지하는 데 중요하지만, 용량 제한이 명확합니다. 둘째는 '장기 기억(long-term memory)'으로, 벡터 데이터베이스(vector database) 등에 저장되어 필요할 때 검색(retrieval)하여 활용하는 과거의 경험, 지식, 학습된 패턴 등입니다. 장기 기억은 에이전트가 더 넓은 범위의 지식을 활용하고, 시간이 지나도 정보를 잊지 않도록 돕습니다. 효과적인 메모리 설계를 위해서는 어떤 정보를 기억할지, 얼마나 오랫동안 기억할지, 그리고 어떻게 기억할지를 전략적으로 결정해야 합니다.
예를 들어, 에이전트가 특정 사용자의 선호도를 학습해야 한다면, 과거의 상호작용 기록을 장기 기억으로 저장하고, 새로운 요청이 들어올 때마다 관련 기록을 검색하여 응답에 반영할 수 있습니다. 또한, 에이전트가 복잡한 문제 해결 과정을 수행할 때는 중간 단계의 결과나 실패 경험을 기억하여 다음 시도에 활용하는 것이 중요합니다. 이러한 메모리 관리 전략은 에이전트가 반복적인 실수를 줄이고, 점차적으로 더 정교하고 개인화된 서비스를 제공할 수 있도록 돕습니다. 결국, LLM 에이전트의 '기억력'을 어떻게 설계하느냐에 따라 그 활용 범위와 지능 수준이 크게 달라질 수 있습니다.