최근 인공지능(AI) 에이전트가 외부 도구를 호출(tool-calling)하여 복잡한 작업을 수행하는 능력이 중요해지고 있지만, 에이전트가 도구 호출에 실패했을 때 그 원인을 정확히 파악하기 어렵다는 문제가 있었습니다. 기존 평가 방식은 단순히 성공/실패 여부만 판단하여, 모델이 올바른 함수를 선택했음에도 인자(argument) 값을 잘못 생성하거나, 잘못된 이유로 에이전트를 선택하는 등 다양한 실패 모드를 구분하지 못했습니다. 이러한 한계를 극복하기 위해 'SAAG(Structured Agent Assessment and Grounding)'라는 새로운 진단 프레임워크가 제안되었습니다.
SAAG는 에이전트 호출 평가를 세 가지 순차적인 단계로 분해하여 진단합니다. 첫째, '레지스트리 적합성(registry conformance)' 단계에서는 에이전트가 호출하려는 도구가 유효한지 확인합니다. 둘째, '구조적 완전성(structural completeness)' 단계에서는 도구 호출에 필요한 모든 필수 인자가 올바른 형식으로 제공되었는지 검증합니다. 마지막으로 '인자 근거(argument grounding)' 단계에서는 제공된 인자 값들이 실제 의미론적으로 타당한지 평가합니다. 각 단계에서 발생하는 오류는 명확한 진단 정보를 제공하며, 이 정보는 모델이 스스로 오류를 수정(self-repair)하는 데 활용될 수 있습니다. 연구진은 40억 개 미만 매개변수를 가진 소형 모델들을 대상으로 Glaive의 함수 호출 데이터셋을 활용하여 SAAG 프레임워크를 평가했으며, 그 결과 SAAG의 구조화된 피드백이 인자 정확도를 높이고 값 환각(value hallucination)을 줄이는 데 효과적임을 확인했습니다.
이러한 단계별 진단 평가는 AI 에이전트의 신뢰성과 성능 향상에 필수적인 요소로 작용할 것입니다. 개발자들은 SAAG를 통해 에이전트의 실패 지점을 명확하게 파악하고, 이를 바탕으로 모델을 미세조정(fine-tuning)하거나 프롬프트 엔지니어링(prompt engineering)을 개선할 수 있게 됩니다. 궁극적으로 이는 더욱 견고하고 예측 가능한 AI 에이전트 시스템을 구축하는 데 기여하며, 다양한 산업 분야에서 AI 에이전트의 실제 적용 가능성을 높이는 중요한 기반이 될 것입니다.