최근 대규모 언어모델(LLM) 기반 에이전트가 복잡한 다단계 계획(multi-step planning) 작업에서 뛰어난 잠재력을 보이고 있지만, 기존 방식들은 계획 과정에서 LLM 추론(inference)에 과도하게 의존해 높은 연산 비용과 예측 불가능한 행동이라는 한계를 안고 있었습니다. 이러한 문제를 해결하기 위해, 새로운 연구에서 GATS(Graph-Augmented Tree Search)라는 계획 프레임워크를 제안했습니다. GATS는 LLM 호출 없이도 우수한 계획 성능을 달성하며, 에이전트의 효율성과 신뢰성을 혁신적으로 개선할 수 있음을 입증했습니다.
GATS는 체계적인 UCB1 기반 트리 탐색(tree search)과 계층형 월드 모델(layered world model)을 결합한 것이 핵심입니다. 이 3계층 월드 모델은 (L1) 정확한 심볼릭 액션 매칭, (L2) 실행 로그에서 학습된 통계, 그리고 (L3) 알려지지 않은 액션에 대한 LLM 기반 예측을 통합합니다. 이를 통해 GATS는 계획 단계에서 LLM 호출을 완전히 제거하면서도, 분기 경로와 막다른 길이 있는 합성 계획 작업에서 LATS(Language Agent Tree Search)의 92%, ReAct의 64% 대비 100%의 성공률을 기록했습니다. 또한, 코딩 워크플로우, 웹 탐색, 장기 목표(long-horizon tasks)를 포함한 12가지 도전적인 시나리오 스트레스 테스트에서도 GATS는 100% 성공률을 유지한 반면, LATS는 88.9%, ReAct는 23.9%로 크게 하락했습니다.
가장 주목할 만한 점은 GATS가 계획 과정에서 작업당 LLM 호출을 0회로 줄였다는 것입니다. 이는 LATS가 작업당 평균 37회의 LLM 호출을 필요로 했던 것과 비교하면 엄청난 효율성 개선입니다. 또한 GATS는 실행 간 편차 없이 확정적인(deterministic) 계획을 생성하여, 기존 LLM 기반 에이전트의 고질적인 문제였던 비결정성(stochasticity)을 해결했습니다. 이러한 결과는 학습된 월드 모델과 체계적인 탐색이 LLM 기반 탐색보다 에이전트 계획에 있어 훨씬 뛰어나며, 미래 AI 에이전트 개발의 방향성을 제시하는 중요한 이정표가 될 수 있음을 시사합니다. 이는 LLM 에이전트의 상용화와 실제 적용 가능성을 크게 높이는 데 기여할 것입니다.