AI 에이전트와 대규모 언어모델(LLM)이 긴 대화나 복잡한 코드 베이스를 기억하는 데 어려움을 겪는 문제를 해결하기 위해, 새로운 오픈소스 표준 파일 형식인 'DaiDocs'가 공개되었습니다. 이 프로젝트는 AI의 장기 기억을 효율적으로 관리할 수 있는 .dai(문서 AI)와 .cai(코드 AI)라는 두 가지 파일 형식을 제안하며, 이를 통해 AI가 더 적은 토큰으로 더 많은 정보를 기억할 수 있도록 돕습니다.
DaiDocs는 .dai 파일을 통해 과거 대화, 결정, 사실 등 문서 및 세션 기록을 저장하고, .cai 파일을 통해 코드의 호출자, 피호출자, 임포트 등 결정론적인 코드 그래프를 구축합니다. 이 두 형식은 모두 일반 텍스트 기반으로 로컬 디스크에 저장되어 사용자가 직접 확인하고 관리할 수 있습니다. 특히, LongMemEval-S 벤치마크에서 GPT-4o로 83%, Claude Fable 5로 92%의 높은 기억 정확도를 기록했으며, 기존 방식 대비 토큰 사용량을 최대 218배까지 절감하는 놀라운 효율성을 보여주었습니다. 이는 AI가 질문에 필요한 최소한의 정보만 읽도록 설계된 '질문 라우터' 덕분입니다.
DaiDocs의 등장은 AI 에이전트의 실용성을 크게 향상시킬 잠재력을 가지고 있습니다. AI가 더 길고 복잡한 맥락을 기억하고 이해할 수 있게 됨으로써, 개발자는 더욱 정교하고 개인화된 AI 애플리케이션을 구축할 수 있습니다. 또한, 오픈소스 표준이라는 점은 다양한 AI 모델과 에이전트 간의 상호 운용성을 높이고, AI 메모리 관리 기술의 발전을 가속화할 것으로 기대됩니다. 이는 단순히 토큰 비용 절감을 넘어, AI의 지능적이고 지속적인 학습 능력을 한 단계 끌어올리는 중요한 전환점이 될 수 있습니다.