최근 AI 에이전트의 활용이 늘면서 예상치 못한 비용 지출이나 통제 불가능한 외부 도구 호출에 대한 우려가 커지고 있습니다. 이러한 문제를 해결하기 위해 AI 에이전트의 API 호출을 제어하는 방화벽 솔루션 '거버너(Governor)'가 새롭게 등장했습니다. 거버너는 에이전트가 AI 모델에 요청을 보내기 전에 이를 가로채서 미리 설정된 규칙에 따라 호출을 허용하거나 차단하는 역할을 합니다.
거버너는 Node.js 기반의 경량 프록시(proxy) 형태로 작동하며, 앤트로픽(Anthropic), 오픈AI(OpenAI), xAI 등 주요 AI 모델 API와 연동됩니다. 사용자는 AI 에이전트 SDK의 기본 URL을 거버너 주소로 변경하고, 각 에이전트에 고유한 거버너 키를 할당하여 비용 상한선(caps)과 도구 호출 규칙을 설정할 수 있습니다. 특히, 거버너는 AI 모델의 응답에서 에이전트가 도구를 호출하기 전에 해당 호출 내용을 파악하여 규칙에 위배되는 경우 이를 즉시 차단하거나, 사람의 승인이 필요한 경우 대기 상태로 전환합니다. 모든 결정은 감사 로그(audit log)에 기록되어 투명하게 관리됩니다.
이러한 거버너의 등장은 AI 에이전트 운영의 안정성과 효율성을 크게 향상시킬 수 있다는 점에서 중요합니다. 기업이나 개발자는 AI 에이전트가 예상 범위를 벗어나 과도한 비용을 지출하거나, 보안상 위험할 수 있는 외부 시스템에 무단으로 접근하는 것을 사전에 방지할 수 있습니다. 이는 AI 에이전트를 실제 비즈니스 환경에 도입할 때 필수적인 통제 메커니즘을 제공하며, 보다 신뢰할 수 있는 AI 시스템 구축을 가능하게 할 것입니다.