장기적인 목표를 수행하는 언어 에이전트(language agent)가 외부 기억(external memory)을 활용할 때, 기억 사용 방식에 숨겨진 중요한 패턴이 발견되었습니다. 기존에는 에이전트의 기억 시스템을 주로 작업 성공률이나 토큰(token) 비용으로만 평가했지만, 연구진은 기억이 어떻게 분포되는지, 즉 '기억 사용의 형태'가 중요하다고 주장합니다. 제한된 컨텍스트(context)와 반복적인 정보 검색 과정에서 에이전트의 기억은 소수의 핵심 정보에 집중되고, 드물게 사용되는 상태는 '긴 꼬리(long tail)' 영역에 남아 예측 오류를 축적하는 경향이 있다는 것입니다.
이러한 현상을 심층적으로 분석하기 위해 연구진은 '꼬리 감사(tail audit)'라는 방법을 사용했습니다. 그 결과, 기억 집중 현상은 재현 가능하며 에이전트의 정책(policy)에 따라 달라진다는 사실을 확인했습니다. 예를 들어, 무작위 보행(random-walk) 에이전트는 로그-정규 분포(log-normal distribution)와 유사한 검색 패턴을 보인 반면, 의미 기반의 대규모 언어모델(LLM) 정책은 핵심-꼬리(core-tail) 분포가 가장 뚜렷하게 나타나는 것을 발견했습니다. 이러한 분석을 바탕으로 연구진은 '코어-테일 월드 모델(Core-Tail World Model, CTWM)'이라는 새로운 기억 컨트롤러를 제안했습니다. CTWM은 단일 지수 $\tau$를 사용하여 프롬프트(prompt) 예산을 할당하고, 동시에 요약된 꼬리 정보를 유지함으로써 기억을 효율적으로 관리합니다.
합성 그래프 월드(Synthetic Graph World) 실험에서 CTWM은 전체 상태 및 전환 커버리지(coverage)를 유지하면서도 프롬프트 토큰을 5.9% 절감하고, 하위 절반 꼬리 예측 오류를 13.6% 감소시키는 효과를 보였습니다. 또한 ALFWorld와 LongMemEval 같은 다른 환경에서도 일관된 토큰 절감 효과와 함께 집계 정확도(aggregate accuracy)를 유지하거나 향상시켰습니다. 이러한 연구 결과는 '긴 꼬리 기억 흔적(heavy-tailed memory traces)'이 단순히 제한된 정보 검색의 진단 지표일 뿐만 아니라, 토큰 효율적인 에이전트 월드 모델(world model)을 위한 실용적인 제어 신호가 될 수 있음을 시사합니다. 이는 장기 기억을 사용하는 AI 에이전트의 성능과 효율성을 크게 개선할 잠재력을 가지고 있습니다.