기업들이 인공지능(AI) 도구를 전사적으로 도입하면서 새로운 보안 위협에 직면하고 있습니다. 직원들이 예상치 못한 방식으로 AI 도구를 활용하면서 기업 시스템에 심각한 보안 구멍이 생기거나 생길 위험이 커지고 있습니다. 이러한 우려 속에서 AI 보안 스타트업 플루토 시큐리티(Pluto Security)가 4,200만 달러(약 570억 원)의 투자를 유치하며, 기업 내 AI 활용에 대한 가시성, 위험 분석, 제어 기능을 제공하는 솔루션으로 주목받고 있습니다.
플루토 시큐리티의 샤하르 바핫(Shahar Bahat) CEO는 새로운 AI 도구가 출시된 지 불과 두 시간 만에 기업 환경에 도입될 수 있다고 지적합니다. 특히 회사에서 감지하는 위험의 약 60%는 비개발 직군, 즉 재무, 마케팅, 법무팀에서 생성된 AI 도구에서 발생한다고 밝혔습니다. 실제로 한 포춘 500대 기업의 재무팀 직원이 고객 정보 관리를 위해 만든 AI 앱이 인터넷에 노출된 사례도 발견되었습니다. 플루토는 기존 보안 소프트웨어로는 AI 도구의 복잡한 사용 방식을 효과적으로 모니터링하기 어렵다는 문제의식에서 출발했으며, 지난 4월부터 판매를 시작해 이미 30개 이상의 기업 고객을 확보하고 연간 반복 매출(ARR) 200만 달러를 돌파하는 등 빠른 성장세를 보이고 있습니다.
플루토의 핵심 기술은 AI 에이전트의 실시간 행동을 추적하고 제어하는 데 있습니다. 사용자 행동을 넘어 AI 에이전트의 행동을 감시하며, 직원이 사용하는 AI 도구, 스킬, 확장 프로그램, 그리고 생성되는 앱과 에이전트를 모니터링합니다. 이를 통해 위험한 구성 요소를 식별하고 잠재적으로 위험한 에이전트 활동을 감지하며, 보안 정책을 강제할 수 있습니다. 특히 에이전트가 사용자 의도 이상의 권한을 얻으려 할 때 작업을 중단시키거나 확인을 요청하는 지시를 삽입하는 등 실시간으로 개입할 수 있는 점이 특징입니다. 이는 기업이 AI 활용의 이점을 누리면서도 데이터 유출이나 오용과 같은 잠재적 위험을 최소화할 수 있도록 돕는 중요한 기능입니다.
이러한 AI 보안 솔루션의 등장은 기업의 보안 전략이 사용자 중심에서 AI 에이전트 중심으로 전환되어야 함을 시사합니다. AI 도구의 확산 속도가 빨라질수록, 기업은 내부적으로 어떤 AI 도구가 사용되고 있는지, 이들이 어떤 데이터에 접근하며 어떤 작업을 수행하는지에 대한 투명한 이해와 통제력을 확보해야 합니다. 플루토 시큐리티와 같은 전문 솔루션은 이러한 복잡한 AI 환경에서 기업이 보안을 유지하고 규정 준수를 보장하는 데 필수적인 역할을 할 것으로 보입니다. 이는 단순히 기술적인 문제를 넘어, 기업의 거버넌스와 리스크 관리 측면에서도 새로운 접근 방식이 필요하다는 것을 의미합니다.