최근 공개된 오픈소스 메모리 API '아난시(Anansi)'가 인공지능(AI) 에이전트가 기업의 복잡한 정보를 기억하고 활용하는 방식을 혁신할 잠재력을 보여주고 있습니다. 아난시는 AI 시스템이 조직이 실제로 어떻게 작동하는지, 그리고 시간이 지남에 따라 어떻게 변화했는지를 지속적으로 이해하도록 돕는 자체 호스팅 가능한 메모리 엔진입니다. 이는 기존 대규모 언어모델(LLM) 앱의 한계인 '기억 상실' 문제를 해결하며, 더 정확하고 신뢰할 수 있는 AI 응답을 가능하게 합니다.
아난시는 기업이 이미 보유하고 있는 대화 기록, 문서, 티켓, 회의록 등 다양한 형태의 데이터를 입력받아 구조화된 메모리로 변환합니다. 이 메모리는 AI 에이전트가 질문에 답하기 전에 참조할 수 있도록 하며, 모든 버전의 정보를 보존하는 것이 특징입니다. 예를 들어, 단순히 “에스컬레이션(escalation) 절차가 무엇인가요?”라고 묻는 것을 넘어, “지난 3월에는 에스컬레이션 절차가 무엇이었고, 언제 변경되었나요?”와 같이 특정 시점의 정보 변화까지 추적하여 인용과 함께 답변을 제공할 수 있습니다. 이는 두 개의 독립적인 시간 축(실제 사실과 시스템이 인지한 시점)을 통해 구현되며, 이 기능은 주로 프로(Pro) 이상의 유료 기능으로 제공됩니다.
기술적으로 아난시는 두 가지 핵심 API 호출로 작동합니다. 'POST /v1/ingest'는 데이터를 기억하도록 요청하고, 'GET /v1/context'는 현재 관련성 있는 정보를 검색합니다. 특히 'ingest'는 비동기적으로 처리되어 시스템 성능에 영향을 주지 않으며, 'context'는 관련성 높은 정보를 압축된 형태로 제공하여 개발자가 직접 청크(chunk)를 순위 매길 필요 없이 시스템 프롬프트에 바로 붙여넣을 수 있도록 합니다. 자체 호스팅 환경에서는 PostgreSQL과 Redis를 기반으로 작동하며, Ollama 또는 Nomic의 임베딩 모델을 활용해 5분 이내에 구동할 수 있을 정도로 설치가 간편합니다.
아난시의 등장은 LLM 기반 애플리케이션의 활용 범위를 크게 확장할 것으로 기대됩니다. 기존 LLM은 학습 데이터 이후의 최신 정보나 기업 내부의 고유한 맥락을 파악하는 데 한계가 있었지만, 아난시는 이를 보완하여 AI 에이전트가 마치 사람처럼 '경험'을 축적하고 '학습'할 수 있는 기반을 마련합니다. 이는 고객 지원, 내부 지식 관리, 의사 결정 지원 등 다양한 기업용 AI 솔루션의 정확성과 효율성을 비약적으로 향상시킬 수 있습니다. 또한, 오픈소스 코어와 상용 엔터프라이즈/호스팅 레이어를 결합한 비즈니스 모델은 개발자 커뮤니티의 참여를 유도하면서도 기업 고객에게 안정적인 서비스를 제공할 수 있는 균형 잡힌 접근 방식을 제시합니다.