최근 AI 에이전트 개발 커뮤니티에서 에이전트의 '기억(memory)' 방식에 대한 근본적인 의문이 제기되었습니다. 에이전트가 프로젝트를 효과적으로 수행하려면 단순히 과거 대화 조각을 검색하는 RAG(Retrieval Augmented Generation) 기반의 메모리 방식으로는 한계가 있다는 지적입니다. 대신 기능의 위치, 구현 이유, 합의 사항, 중요하게 여기는 기준 등을 총체적으로 담은 '프로젝트 문서'가 에이전트의 핵심적인 지식 기반이 되어야 한다는 주장이 설득력을 얻고 있습니다.
기존 RAG 기반 메모리 플러그인은 대화를 분석해 독립적인 조각으로 벡터 데이터베이스에 저장하고, 매 프롬프트에 가장 유사한 조각들을 주입하는 방식으로 작동합니다. 하지만 이 방식은 유사성이 곧 정확성을 의미하지 않으며, 제한된 조각으로는 전체 맥락을 파악하기 어렵고, 코드베이스가 매일 바뀌는 상황에서 과거 정보의 최신성을 보장하기 어렵다는 문제가 있습니다. 또한 에이전트 스스로 무엇을 모르는지 알 수 없어 검색 도구를 효과적으로 사용하기도 어렵습니다. 이러한 문제점들은 토큰을 더 소비하는 부가 기능을 추가하더라도 근본적으로 해결되지 않습니다. 이에 따라, 과거 대화를 잘 회상하는 것보다 사람이 읽고 수정하고 공유할 수 있는 '문서 기반 지식'을 기록하고 활용하는 방식으로 전환해야 한다는 목소리가 커지고 있습니다.
이러한 문제의식에서 출발한 'Operator Memory'는 지침, 명세, 조사 결과, 색인 등을 보관하는 마크다운(Markdown) 기반의 무료 오픈소스 지식 공간을 제공합니다. 이 도구는 벡터 데이터베이스나 임베딩을 사용하지 않으며, 요약기나 큐레이터 같은 토큰 소비형 백그라운드 데몬도 없습니다. 모든 지식은 일반 마크다운 문서 형태로 저장되어 사람이 직접 읽고 수정하며 팀과 공유할 수 있습니다. 에이전트의 작업 흐름을 '프롬프트 → 구현 → 망각'이 아닌 '프롬프트 → 참조 → 구현 → 갱신'으로 바꾸어, 작업 전 관련 문서를 읽고 작업 후에는 전체 맥락이 남아 있을 때 문서를 최신화하고 필요한 문서를 추가하도록 유도합니다. 이는 AI 에이전트가 단순히 코드를 생성하는 것을 넘어, 프로젝트의 전체적인 맥락과 의도를 이해하고 지속적으로 지식을 축적하며 발전할 수 있는 기반을 마련해 줄 것으로 기대됩니다.