최근 연구에 따르면, AI 에이전트가 사용자의 숨겨진 의도나 누락된 정보를 효율적으로 파악하기 위해 '능동 추론(active inference)'이라는 새로운 접근 방식을 제안했습니다. 이는 사용자가 제약 조건, 선호도, 파일 또는 작업 변수 등을 명확히 언급하지 않았을 때, AI가 기본 가정으로 진행할지 아니면 추가 질문을 통해 정보를 얻을지 결정하는 딜레마를 해결하기 위한 것입니다. 이 프레임워크는 AI가 불확실성을 줄이는 방향으로 행동을 선택하고, 그 과정에서 발생하는 비용(예: 토큰 소모)을 최소화하는 것을 목표로 합니다.
이 연구는 AI의 컨텍스트 획득 과정을 두 가지 단계로 나눕니다. 첫째, 내부 추론(inner inference) 단계에서는 잠재된 작업 상태에 대한 AI의 믿음을 업데이트합니다. 둘째, 외부 결정(outer decision) 단계에서는 다음 컨텍스트 획득 행동, 작업 실행 행동 또는 중단 행동을 선택하여 예상 자유 에너지(expected free energy)를 최소화합니다. 이는 불확실성을 줄이는 정보 획득과 행동 비용 사이의 균형을 찾는 과정입니다. 특히, 결정론적 환경에서는 이 '인식론적(epistemic)' 요소가 토큰 비용으로 정규화될 수 있는 예상 정보 이득(expected information gain)으로 환원됩니다. 연구진은 이 프레임워크를 '최적 질문하기(Optimal Question Asking, OQA)'에 적용하여, 25개에서 300개에 이르는 이진 및 다중 범주형 작업에서 최신 대규모 언어모델(LLM)의 성능을 벤치마킹하고, 토큰 예산 내에서 생성 전 명확화 및 자동화된 프롬프트 최적화의 효과를 입증했습니다.
이 '능동 추론' 기반의 컨텍스트 획득 방식은 AI 에이전트가 더욱 지능적이고 효율적으로 사용자 상호작용을 처리할 수 있도록 돕습니다. 사용자가 불완전한 정보를 제공하더라도 AI가 능동적으로 필요한 정보를 탐색하고, 불필요한 추측이나 잘못된 가정을 줄여 더 정확하고 만족스러운 결과를 도출할 수 있게 됩니다. 이는 대규모 언어모델(LLM) 기반의 챗봇, 가상 비서, 자동화된 고객 서비스 등 다양한 AI 응용 분야에서 사용자 경험을 크게 향상시키고, 운영 비용(토큰 비용)을 절감하는 데 기여할 중요한 설계 원칙이 될 것으로 기대됩니다.