AI 에이전트(agent)가 외부로부터 오염된 데이터를 받아 민감한 정보를 유출하는 공격을 막기 위한 새로운 보안 프록시 '커스텀하우스(Customhouse)'가 공개되었습니다. 이 도구는 에이전트가 신뢰할 수 없는 콘텐츠를 한 번이라도 수신한 세션에서는, 결제나 데이터 반출과 같은 '돈이 되거나 데이터가 나가는' 모든 호출을 결정론적으로 차단합니다. 이는 기존의 패턴 매칭 방식과 달리, 데이터의 출처(provenance)만을 기반으로 판단하기 때문에 공격자가 내용을 바꾸거나 요약해도 우회하기 어렵다는 강점을 가집니다.
커스텀하우스는 다수의 MCP(Multi-Cloud Platform) 서버를 하나의 엔드포인트로 통합하여 에이전트의 모든 도구 호출을 기록하는 기능을 제공합니다. 예를 들어, 에이전트가 악성 파일을 읽은 후 다른 서버를 통해 해당 내용을 이메일로 보내려 할 때, 커스텀하우스는 파일 읽기(신뢰할 수 없는 콘텐츠 유입)와 이메일 전송(데이터 유출 시도)의 흐름을 모두 감지하여 후자를 차단합니다. 특히, 결제 이체(payment_transfer)와 같은 민감한 작업에서는 오탐(false positive)이 없어 즉시 차단(deny) 정책을 적용할 수 있으며, 이메일 전송(external_send)이나 데이터 업로드(data_egress)와 같이 오탐 가능성이 있는 작업은 관리자의 명시적인 승인(require_approval)을 거치도록 설정할 수 있습니다.
이러한 접근 방식은 AI 에이전트의 보안을 강화하는 데 중요한 의미를 가집니다. AI 에이전트의 활용이 늘어나면서, 외부 입력에 의해 오염되거나 조작되어 기업의 중요 데이터를 유출하거나 금전적 손실을 발생시킬 위험이 커지고 있습니다. 커스텀하우스는 이러한 위험을 근본적으로 차단함으로써, 에이전트가 안전하게 외부 환경과 상호작용할 수 있는 기반을 마련합니다. 특히, 에이전트가 사용하는 도구 정의(tool definition)가 변경될 경우 이를 감지하고 차단하는 '러그 풀(rug-pull) 방지' 기능과, 프록시 자체의 파일에 접근하려는 시도를 막는 '자체 보호(self-protection)' 기능까지 포함하여 다층적인 보안을 제공합니다. 이는 AI 에이전트 기반 서비스의 신뢰도를 높이고, 기업들이 AI 에이전트를 더 적극적으로 도입할 수 있도록 돕는 중요한 기술적 진전으로 평가됩니다.