AI 에이전트가 외부 도구를 호출할 때, 모델이 생성한 데이터가 의도치 않게 민감한 매개변수에 영향을 미쳐 보안 취약점을 발생시킬 수 있습니다. 이러한 문제를 해결하기 위해 'Verb Authority'라는 새로운 오픈소스 도구가 공개되었습니다. 이 도구는 AI 도구 호출 시 각 매개변수(argument)에 대한 권한(authority)을 명시적으로 정의하고, 실행 직전에 이를 검증하여 신뢰할 수 없는 데이터가 중요한 인수를 조작하는 것을 막습니다.
예를 들어, '이메일 보내기(send_email)' 도구에 '수신자(to)'와 '본문(body)' 매개변수가 있다고 가정해 봅시다. AI 모델은 이메일 본문을 자유롭게 작성할 수 있지만, 수신자는 반드시 신뢰할 수 있는 애플리케이션 코드(예: 사용자 세션 정보, 내부 주소록)에서 와야 합니다. 기존 도구 스키마는 단순히 데이터 형태만 검증할 뿐, 누가 각 값을 제공할 수 있는지까지는 확인하지 못했습니다. Verb Authority는 이러한 한계를 극복하고, 도구 스키마를 스캔하여 각 매개변수에 대한 권한 맵을 생성하며, 실행 직전 로컬에서 이를 검증하는 게이트(gate) 역할을 수행합니다. 이를 통해 AI가 생성한 '본문'과 애플리케이션이 제공한 '수신자'를 명확히 구분하고, 만약 AI가 수신자를 변경하려 시도하면 즉시 호출을 차단합니다.
이러한 매개변수별 권한 제어는 AI 시스템의 안전성과 신뢰성을 크게 향상시킵니다. 특히 금융 거래, 개인 정보 처리, 시스템 제어 등 민감한 작업에 AI 에이전트를 활용할 때 필수적인 보안 장치가 될 수 있습니다. Verb Authority는 OpenAI, Anthropic 등 주요 AI 플랫폼의 도구 정의를 지원하며, 스캔 과정에서 모델이나 네트워크를 사용하지 않고 스키마를 로컬에서 처리하여 프라이버시를 보장합니다. 이는 개발자들이 AI 에이전트의 잠재력을 최대한 활용하면서도, 통제 불가능한 오작동이나 보안 사고의 위험을 최소화할 수 있도록 돕는 중요한 진전입니다.