퍼플렉시티 AI(Perplexity AI)가 AI 에이전트의 활동을 실시간으로 감지하고 대응하는 새로운 오픈소스 도구 '넘뱃(Numbat)'을 공개했습니다. 넘뱃은 데스크톱, CLI(명령줄 인터페이스), IDE(통합 개발 환경) 등 다양한 환경에서 AI 에이전트의 행동을 모니터링하며, 의심스러운 활동을 탐지하고 필요에 따라 작업을 차단하는 기능을 제공합니다. 이는 AI 에이전트의 보안 및 안정성을 확보하는 데 핵심적인 역할을 할 것으로 보입니다.
넘뱃은 로컬 훅(hook)과 플러그인, OTLP/HTTP 로그, 그리고 디스크 세션 아티팩트(artifact)를 통해 지원되는 AI 에이전트의 활동을 관찰합니다. 라이브 활동과 저장된 활동을 하나의 이벤트 모델로 정규화하고, 동일한 CEL(Common Expression Language) 규칙 엔진으로 평가하여 탐지를 수행합니다. 탐지는 로컬에서 실행되며, 기록은 표준 출력이나 로컬 파일에 저장되거나 HTTP를 통해 전달될 수 있습니다. 특히, 기본적으로는 모니터링 모드로 작동하며, 특정 규칙에 대해 '강제(enforce)' 옵션을 활성화해야만 사전 작업 차단(pre-action blocking) 기능이 활성화됩니다. 이는 개발자가 AI 에이전트의 행동을 세밀하게 제어할 수 있도록 돕습니다.
이러한 넘뱃의 출시는 AI 에이전트의 활용이 증가함에 따라 대두되는 보안 및 통제 문제에 대한 중요한 해법을 제시합니다. AI 에이전트가 시스템에 대한 접근 권한을 가지고 다양한 작업을 수행할 수 있게 되면서, 의도치 않은 정보 유출이나 악의적인 행동에 대한 우려가 커지고 있습니다. 넘뱃은 이러한 위험을 사전에 감지하고 차단함으로써, 기업과 개발자가 AI 에이전트를 더욱 안전하게 배포하고 관리할 수 있도록 지원합니다. 이는 AI 에이전트의 신뢰성을 높여 광범위한 산업 분야에서의 도입을 가속화하는 데 기여할 것입니다.