AI 코딩 에이전트를 사용하면서 세션이 끝날 때마다 에이전트가 모든 정보를 잊어버려 불편함을 겪는 개발자들이 많았습니다. 어떤 포트에서 서비스가 실행되는지, 특정 라이브러리를 왜 선택했는지, 과거에 해결했던 버그의 해법이 무엇이었는지 등 매번 같은 내용을 다시 설명해야 하는 비효율이 발생했습니다. 이러한 문제를 해결하기 위해 로컬 메모리 서비스 'memnest'가 개발되어, AI 에이전트가 세션이 바뀌어도 기억을 잃지 않도록 돕습니다.
memnest는 로컬호스트(localhost)에서 실행되는 Rust 기반 서비스로, 에이전트의 기억을 저장하고 요청 시 이를 반환하는 구조입니다. 기존에는 각 개발 도구(하네스)마다 부분적인 메모리 기능이 있었지만, 다른 도구로 전환하면 기억이 사라지는 한계가 있었습니다. memnest는 저장소와 툴 계약을 하나로 통합하여, 어떤 도구를 사용하든 에이전트가 학습한 내용이 초기화되지 않도록 합니다. 특히, 대규모 언어모델(LLM)을 전혀 호출하지 않고, 다국어 임베딩 모델(multilingual-e5-base)을 로컬에서 실행하여 개인 정보 보호와 비용 효율성을 높였습니다. 핵심 데이터는 SQLite에 저장되며, Tantivy BM25 색인과 HNSW 벡터 색인을 활용해 정확하고 유연한 검색을 지원합니다.
이 서비스는 개발자들이 AI 코딩 에이전트를 더욱 효율적으로 활용할 수 있게 함으로써 생산성을 크게 향상시킬 것으로 기대됩니다. 에이전트가 과거의 결정, 선호 사항, 버그 수정 이력 등을 기억함으로써 반복적인 설명과 재학습 과정을 줄일 수 있습니다. 또한, 민감 정보는 검색 대상에서 제외하고 암호화된 금고에 보관하며, 자격 증명처럼 보이는 텍스트는 미리 가려내는 등 보안에도 신경 썼습니다. 현재 한국어 질의에서 '결과 없음' 정확도가 낮은 점 등 개선할 부분이 있지만, MIT 라이선스로 공개되어 누구나 자유롭게 활용하고 개선에 참여할 수 있습니다. memnest는 AI 에이전트의 '장기 기억' 문제를 해결하는 중요한 진전이며, 개발자들이 AI 도구를 개인화하고 더 깊이 있게 활용하는 데 기여할 것입니다.