분산형 대규모 언어모델(LLM) 에이전트 팀은 협업 과정에서 최신 정보를 공유하고 있음에도 불구하고, 과거 정보에 기반한 '오래된 계획(stale-plan)'을 실행하는 고질적인 문제에 직면합니다. 예를 들어, 한 에이전트가 특정 요구사항(r3)에 따라 계획을 세웠는데, 다른 에이전트가 새로운 요구사항(r4)을 반영하여 상태를 업데이트하더라도, 실행 에이전트는 여전히 r3에 기반한 구식 계획을 따를 수 있습니다. 이는 시스템의 효율성과 안전성을 저해하는 주요 원인으로 지목됩니다.
이러한 '오래된 계획 실행(stale-plan execution)' 문제를 해결하기 위해, 연구진은 '플랜펜스(PlanFence)'라는 의존성 범위 기반의 행동 검증 프로토콜을 제안했습니다. 플랜펜스는 각 계획이 수립될 때 사용된 정확한 공개 기록(public records)을 명시하도록 합니다. 이후 실행 에이전트는 보류 중인 외부 행동에 영향을 미칠 수 있는 해당 기록들만 선별적으로 검증합니다. 만약 검증이 불완전하거나 기록이 유효하지 않으면, 에이전트는 계획을 다시 수립하거나 행동을 중단하게 됩니다.
30가지 통제된 라이브 워크플로우 실험에서, 계획 수정 후에도 최신 정보만을 확인하는 기존 방식의 에이전트는 모든 작업에서 오래된 계획을 실행했습니다. 반면, 플랜펜스를 적용한 에이전트는 단 한 번의 잘못된 행동 없이 모든 작업을 성공적으로 완료했습니다. 이는 플랜펜스가 시스템의 안전성을 크게 향상시키고, 공유 키스페이스(shared keyspace)가 커지거나 정보 변경(churn)이 잦아질 때 불필요한 상태 검증을 줄여 시스템 비용을 절감하는 효과도 있음을 보여줍니다. 이 기술은 LLM 에이전트가 복잡한 환경에서 더욱 신뢰성 있고 효율적으로 협업할 수 있는 기반을 마련할 것으로 기대됩니다.