AI 에이전트가 매번 새로운 세션을 시작할 때마다 이전 대화 내용을 잊어버리는 고질적인 문제를 해결하기 위해, 로컬 우선(local-first) 암호화 메모리 엔진 '코텍스(Cortex)'가 공개되었습니다. 이 솔루션은 사용자의 기기에서 100% 실행되어 데이터 프라이버스를 완벽하게 보호하면서도, AI 에이전트에게 구조화되고 쿼리 가능한 장기 기억을 제공합니다. 이는 기존 클라우드 기반 메모리 솔루션의 높은 비용, 긴 지연 시간, 그리고 개인 정보 유출 우려를 해소하는 강력한 대안으로 떠오르고 있습니다.
코텍스는 순수 러스트(Rust)로 개발되었으며, 3.8MB의 가벼운 바이너리 크기를 자랑합니다. 데이터 경로에 서드파티 서버가 전혀 개입하지 않고, 원격 측정(telemetry) 기능도 없어 사용자의 데이터가 외부로 유출될 염려가 없습니다. 온디바이스(on-device) 의미 검색을 위해 약 30MB의 모델을 한 번 다운로드하면 완전히 오프라인으로 작동하며, 아이클라우드(iCloud), 구글 드라이브(Google Drive), 원드라이브(OneDrive), 드롭박스(Dropbox) 등 사용자가 직접 선택한 클라우드 스토리지를 통해 암호화된 상태로 동기화됩니다. 특히, 베이지안 신념(Bayesian beliefs)을 통해 스스로 오류를 수정하고, 여러 플랫폼에서 사용자 신원을 통합하는 피플 그래프(people graph) 기능 등 기존 솔루션에서는 찾아보기 어려운 고급 기억 관리 기능을 제공합니다. 성능 면에서도 인제스트(ingest) 156µs, 검색(search) 568µs로, 클라우드 기반 경쟁 솔루션 대비 최대 500배 이상 빠른 속도를 보여줍니다.
코텍스의 등장은 개인 AI 에이전트의 활용성을 한 단계 끌어올릴 잠재력을 가지고 있습니다. 사용자의 개인 정보가 안전하게 보호되면서도 AI가 맥락을 이해하고 지속적으로 학습할 수 있게 됨으로써, 더욱 개인화되고 효율적인 AI 경험을 기대할 수 있습니다. 또한, 개발자들에게는 복잡한 클라우드 인프라 없이도 강력한 메모리 기능을 AI 에이전트에 통합할 수 있는 새로운 가능성을 열어줍니다. 이는 AI 기술이 더욱 개인화되고 분산화되는 방향으로 진화하는 중요한 신호이며, AI 에이전트의 '기억' 문제를 해결함으로써 장기적인 상호작용과 신뢰 구축에 기여할 것입니다.