AI 개발자들이 겪는 고질적인 문제 중 하나는 AI 에이전트가 코드베이스의 맥락을 쉽게 잊어버린다는 점입니다. 새로운 채팅 세션을 시작하거나 개발 환경(IDE)을 전환할 때마다 아키텍처 결정, 코딩 컨벤션, 스택 선택 등을 다시 설명해야 하는 비효율이 발생하며, 이는 불필요한 토큰 비용 증가와 컨텍스트 창 축소로 이어집니다. 이러한 문제를 해결하기 위해 'Zerikai Memory'가 로컬 코드 메모리 관리 서버로 등장했습니다.
Zerikai Memory는 로컬에서 실행되는 STDIO MCP(Master Control Program) 서버로, 개발자의 IDE와 대규모 언어모델(LLM) 사이에 위치합니다. 이 도구는 Tree-Sitter를 이용해 코드베이스를 정밀하게 파싱하고, 함수, 클래스, 독스트링(docstring) 같은 코드 엔티티를 추출하여 로컬 ChromaDB 벡터 스토어에 저장합니다. 이를 통해 AI 에이전트가 필요할 때마다 관련성 높은 코드 스니펫을 동적으로 주입하여, 마치 AI가 코드베이스를 기억하는 것처럼 작동하게 합니다. 특히, DeepSeek API와 같은 저비용 LLM과 연동하여 대규모 파일을 통째로 전달하는 대신 필요한 컨텍스트만 제공함으로써 토큰 비용을 획기적으로 절감하고 컨텍스트 창을 넓게 유지하는 장점이 있습니다.
최근 Zerikai Memory는 'Jev'라는 새로운 의미론적 판단 레이어를 통합하여 기능을 더욱 강화했습니다. Jev는 TypeSafe AI의 시스템 원(System One) 모델로, LLM이 생성한 답변의 근거가 되는 검색된 구절들이 실제로 질문에 얼마나 잘 부합하는지 판단하고, 그 증거에 대한 평문 보고서를 첨부합니다. 이는 답변의 관련성, 증거 유무, 모순 여부, 프롬프트 주입 시도 등을 평가하여 LLM의 답변 품질을 높이고 신뢰할 수 없는 정보를 걸러내는 역할을 합니다. 이로써 개발자는 AI 에이전트가 제공하는 정보의 정확성을 한층 더 신뢰할 수 있게 되었으며, AI 기반 개발 워크플로우의 효율성과 생산성을 크게 향상시킬 수 있을 것으로 기대됩니다.