서로 상충하는 목표를 가진 두 대규모 언어모델(LLM) 에이전트가 대화할 때, 공통 목표 함수가 없으면 대화가 교착 상태에 빠지거나 중단되는 문제가 발생합니다. 방문자 에이전트는 포기하고, 사이트 에이전트는 접근 방식을 바꾸지 않아 결국 어느 쪽도 목표를 달성하지 못하고 대화가 끝나버리는 현상입니다. 최근 연구는 이러한 문제 해결을 위해 '경험 오케스트레이터(Experience Orchestrator, EO)'라는 제어 이론 기반의 거버넌스(governance) 계층을 제안했습니다.
이 연구는 금융 서비스 환경 시뮬레이션에서 EO의 효과를 검증했습니다. 사이트 에이전트가 방문자를 자문가 연결로 유도하는 동안, 방문자 에이전트는 심리적으로 현실적인 저항을 유지하는 시나리오입니다. EO는 세 가지 메커니즘을 통해 대화의 공동 궤적을 관리합니다. 첫째, 실제 웹 분석 데이터를 기반으로 콘텐츠를 선택하는 문맥 밴딧(Contextual Bandit, CB)입니다. 둘째, 동적 스키마 제약을 통해 행동 일관성을 유지하는 PID 제어기(PID controller)입니다. 셋째, 방문자 의도를 확률적으로 추적하는 부분 관측 마르코프 결정 과정(POMDP) 신념 추적기입니다. 6만 번의 시뮬레이션 결과, EO는 고의도 자문가 연결률을 대조군 대비 32%포인트 향상(46.1%에서 78.1%로)시켰으며, 이 중 CB의 변형 선택이 결과 분산의 97%를 설명했습니다.
이는 대화의 결과가 환경의 초기 조건보다는 거버넌스 정책에 의해 결정됨을 시사합니다. 특히 전환 의도가 낮은 방문자의 경우, 거버넌스 계층의 유무가 시스템의 작동 여부를 가르는 중요한 요소였습니다. 반면, 이미 전환에 가까운 방문자에게는 순진한 LLM의 공감적 기본값만으로도 충분한 경우가 많았습니다. 이 연구는 LLM 간 시뮬레이션에 기반하며, PID 제어기가 실제 인간의 예측 불가능성에 맞춰 보정되지 않았으므로, 실제 트래픽에서 EO를 검증하는 것이 다음 단계입니다. 이 '조정자' 모델은 복잡한 다중 LLM 에이전트 시스템이 실제 비즈니스 환경에서 더욱 효과적으로 작동할 수 있는 가능성을 보여줍니다.