프랑스의 선두 인공지능(AI) 스타트업 미스트랄 AI(Mistral AI)가 대규모 언어모델(LLM)이 외부 도구(tool)를 호출하고 실행하는 방식에 대한 혁신적인 특허를 출원했습니다. 이 특허는 LLM이 사용자 요청에 따라 프로그래밍 언어로 코드 블록을 생성하고, 이 코드 블록 내에서 다양한 도구 호출을 캡슐화하여 실행하는 새로운 접근 방식을 제시합니다. 이는 AI 에이전트가 복잡한 작업을 수행할 때 외부 시스템과 상호작용하는 방식을 한 단계 발전시킬 잠재력을 가집니다.
미스트랄 AI가 출원한 특허(US 12,670,045 B1)의 핵심은 LLM이 생성한 코드 블록을 서버의 샌드박스(sandbox) 환경에서 실행한다는 점입니다. 만약 실행 중 사용자 개입이 필요한 '대기 중인 도구 호출(pending tool call)'이 발생하면, 코드 실행을 일시 중지하고 해당 호출을 클라이언트(사용자)에게 전송합니다. 클라이언트로부터 결과값을 받으면 이를 코드 블록에 반영하여 실행을 재개하고, 최종 결과를 LLM에 반환하는 구조입니다. 이 방식은 기존의 함수 호출(function calling) 방식보다 더 유연하고 안전하게 외부 도구를 활용할 수 있도록 설계되었습니다.
이 기술은 AI 에이전트의 능력과 신뢰성을 크게 향상시킬 수 있습니다. LLM이 직접 코드를 생성하고 실행함으로써, 단순히 미리 정의된 함수를 호출하는 것을 넘어 훨씬 복잡하고 동적인 작업을 처리할 수 있게 됩니다. 또한, 샌드박스 환경에서의 실행과 사용자 개입을 통한 검증 과정은 AI 시스템의 안정성과 보안을 강화하는 데 기여할 것입니다. 이는 금융, 의료, 소프트웨어 개발 등 다양한 산업에서 AI 에이전트의 활용 범위를 넓히고, 더욱 정교하고 자율적인 AI 애플리케이션 개발을 가속화할 중요한 기반 기술이 될 것으로 기대됩니다.