최근 발표된 연구 논문에서 AI 에이전트가 도구를 사용할 때 발생하는 방대한 관찰(observation) 데이터 중 유용한 부분만 선별적으로 기억하고 나머지는 '잊어버리는' 새로운 방식이 제안되었습니다. '에이전트 제어 망각(Agent-Controlled Forgetting)'이라는 이 기술은 대규모 언어모델(LLM)의 컨텍스트(context) 길이를 효율적으로 관리하여 운영 비용을 크게 줄이고 성능을 향상시키는 것을 목표로 합니다.
이 방법은 에이전트가 이전에 관찰한 도구 사용 결과를 스스로 선택하여, 각 결과를 짧은 요약 노트로 대체하고 원본은 복구 가능한 아카이브에 보관하는 방식으로 작동합니다. 파이썬(Python) 기반의 도구(harness)를 통해 이러한 일괄 아카이빙(batch archival)과 명시적 복구(explicit recovery)가 가능하며, 사용자 지침이나 어시스턴트 메시지는 이 작업에서 보호됩니다. 실제 실험에서 이 기술은 기존 방식 대비 프롬프트 토큰(prompt token) 사용량을 70% 가까이 줄였고, 누적 입력 토큰(cumulative input token)도 50% 적게 사용했습니다. 결과적으로 API 비용은 약 4.38달러에서 1.28~1.44달러로 크게 절감되었습니다. 다만, 요청 횟수가 늘고 처리 시간은 17% 증가하는 등의 트레이드오프(trade-off)도 관찰되었습니다.
이 연구는 특히 노이즈가 많고 반복적인 도구 사용이 필요한 AI 에이전트 작업에서 상당한 자원 절약 효과를 가져올 수 있음을 보여줍니다. LLM의 컨텍스트 창(context window)은 비용과 성능에 직접적인 영향을 미치는데, 불필요한 정보가 쌓이면 비용이 증가하고 모델이 혼란스러워져 정확도가 떨어질 수 있습니다. '에이전트 제어 망각'은 이러한 문제를 해결하여 AI 에이전트의 효율성과 안정성을 높이는 중요한 진전으로 평가됩니다. 하지만 모든 작업에서 동일한 효과를 내는 것은 아니며, 작업 부하(workload)의 특성에 따라 효과가 달라질 수 있다는 점이 핵심 고려 사항으로 지적됩니다.