AI 기반 보안 연구 도구 '위즈 레드 에이전트(Wiz Red Agent)'가 클라우드 데이터 웨어하우스 기업 스노우플레이크(Snowflake)의 내부 지라(Jira) 시스템에 성공적으로 침투했습니다. 이 침투는 깃허브 코파일럿(GitHub Copilot)의 '오토픽스(Autofix)' 기능이 생성한 코드에서 발생한 취약점을 통해 이루어졌으며, AI가 도입한 보안 구멍을 또 다른 AI가 발견하고 악용한 사례로 기록되었습니다.
이번 취약점은 스노우플레이크의 공개 저장소 중 하나인 'snowflake-connector-net'의 깃허브 액션(GitHub Actions) 워크플로우에서 발견되었습니다. 특히, PR #1218에서 'Copilot Autofix powered by AI'가 공동 작성한 커밋(commit)이 기존의 안전한 입력 패턴을 직접 문자열 확장 방식으로 변경하면서 스크립트 삽입(script injection) 취약점이 발생했습니다. 이 취약점은 깃허브 이슈(GitHub issue) 제목에 특수 문자를 삽입하는 것만으로도 인증되지 않은 사용자가 임의 명령을 실행할 수 있게 만들었으며, 깃허브의 AI 기반 보안 검토는 이를 감지하지 못했습니다. 위즈 레드 에이전트는 이 취약점이 활성화된 지 불과 5일 만에 이를 발견하고 악용하여 스노우플레이크의 지라 시스템에 접근, 내부 엔지니어링, 보안 규정 준수, 버그 바운티 추적 프로젝트의 데이터를 열람할 수 있었습니다.
이번 사건은 소프트웨어 개발 과정에서 AI 코딩 도구의 활용이 증가하면서 발생하는 새로운 보안 현실을 보여줍니다. AI가 코드 생성 및 수정에 도움을 주면서 생산성을 높일 수 있지만, 동시에 미묘하고 예측하기 어려운 취약점을 도입할 가능성도 있음을 시사합니다. 또한, 자율 AI 보안 에이전트가 이러한 취약점을 신속하게 발견하고 악용할 수 있다는 점은 기업들이 AI 기반 개발 환경에서 더욱 정교한 보안 검토 및 방어 체계를 구축해야 할 필요성을 강조합니다. 이는 AI 시대의 소프트웨어 보안이 단순한 인간의 검토를 넘어선, AI와 AI의 대결 구도로 진화하고 있음을 보여주는 중요한 사례입니다.