AI 에이전트가 외부 도구를 호출할 때 발생할 수 있는 보안 위협을 차단하기 위한 로컬 방화벽 솔루션 'AgentFence'가 등장했습니다. 이 시스템은 에이전트가 외부 시스템과 상호작용하기 위해 사용하는 도구 호출(tool call)을 실시간으로 감시하고, 미리 정의된 정책에 따라 허용, 거부 또는 승인 요청을 결정합니다. 이를 통해 에이전트의 오작동이나 프롬프트 주입(prompt injection) 공격으로 인한 예상치 못한 부작용을 방지하는 것이 핵심 목표입니다.
AgentFence는 단일 Go 바이너리로 작동하며, 계정이나 내장 원격 측정 기능 없이 로컬 환경에서 실행됩니다. 주요 기능으로는 파일 시스템 접근, URL 요청, 셸 명령 등 다양한 도구 호출에 대한 경로, 인자, URL 기반의 세밀한 제어가 가능합니다. 특히 CI(지속적 통합) 환경에서 에이전트의 도구 호출 권한 부여 결정을 검증할 수 있는 'VeriCordon' 기능을 제공하는데, 이는 정책, 호출 기록, 테스트 케이스를 바탕으로 사람이 읽을 수 있는 보고서(Markdown)와 기계가 처리할 수 있는 JSON 형태의 증거를 생성합니다. 이를 통해 개발 및 운영 단계에서 에이전트의 행동을 투명하게 감사하고 보안 정책 준수 여부를 확인할 수 있습니다.
이러한 AgentFence의 등장은 AI 에이전트의 활용이 늘어나면서 보안 및 통제에 대한 요구가 커지는 현상을 반영합니다. 특히 기업 환경에서 에이전트를 도입할 때 발생할 수 있는 데이터 유출, 시스템 오작동 등의 리스크를 줄이는 데 기여할 것으로 보입니다. 보안 및 플랫폼 운영자들은 AgentFence를 통해 자신이 작성하지 않은 에이전트라도 통제 가능한 정책과 감사 추적을 확보할 수 있게 되어, AI 에이전트 도입의 문턱을 낮추고 안전한 활용을 촉진할 수 있을 것입니다. 이는 AI 에이전트가 단순한 실험 단계를 넘어 실제 비즈니스 환경에 통합되는 데 필수적인 요소로 작용할 것입니다.