최근 클라우드 보안 기업 시스딕(Sysdig)은 '에이전트형 랜섬웨어(agentic ransomware)'인 '제이드퍼퍼(JadePuffer)'가 인간의 개입 없이 실제 사이버 공격의 기술적 실행을 완수했다고 발표하여 큰 주목을 받았습니다. 이 AI 에이전트는 취약한 서버 침투, 자격 증명 탈취, 네트워크 이동, 파일 암호화, 심지어 자체 랜섬 노트 작성까지 해내며 인간 해커처럼 장애물에 적응하는 모습을 보였습니다. 이는 AI가 사이버 공격의 전 과정을 자율적으로 수행할 수 있다는 우려를 낳기에 충분했습니다.
하지만 시스딕의 위협 연구 선임 이사인 마이클 클라크(Michael Clark)는 이후 인터뷰에서 공격의 기술적 실행은 AI가 맡았지만, 초기 단계에는 인간의 개입이 필수적이었다고 밝혔습니다. 인간이 피해자를 선정하고, 명령 및 제어(C2) 서버와 데이터 스테이징 서버 같은 인프라를 구축했으며, 피해자 데이터베이스 침투에 사용된 자격 증명도 AI 에이전트가 직접 확보한 것이 아니라 사전에 탈취된 것을 공급받았다는 설명입니다. 즉, AI는 주어진 목표와 자원을 바탕으로 기술적 실행을 자동화했을 뿐, 공격의 시작점과 방향 설정은 인간이 담당한 것입니다. 제이드퍼퍼는 오픈소스 LLM 앱 구축 도구인 랭플로우(Langflow)의 알려진 취약점을 통해 침투한 뒤 MySQL 서버의 또 다른 취약점을 악용해 관리자 권한을 획득했으며, 1,300개 이상의 구성 기록을 암호화하고 비트코인 주소가 포함된 랜섬 노트를 남겼습니다. 이 공격의 특징은 놀라운 속도와 투명성이었습니다. AI 에이전트는 로그인 실패를 31초 만에 해결하고, 자연어 코드 주석으로 자신의 추론 과정을 상세히 기록했습니다.
이 사례는 AI가 사이버 보안 위협의 판도를 바꿀 잠재력을 보여주면서도, 완전한 자율성을 갖춘 AI 범죄가 현실화되기까지는 아직 넘어야 할 산이 많음을 시사합니다. AI 에이전트가 공격의 효율성과 속도를 극대화할 수 있지만, 여전히 인간의 전략적 판단과 초기 자원 공급이 필요하다는 점은 중요한 시사점입니다. 이는 사이버 보안 업계가 AI 기반 공격 도구의 진화에 대비해야 함과 동시에, 인간의 개입이 필요한 초기 단계를 방어하는 데 집중해야 한다는 점을 강조합니다. 마이크로소프트(Microsoft) 연구원 제프 맥도날드(Geoff McDonald)는 이러한 랜섬웨어 캠페인이 인간의 노력보다는 공격자의 예산에 의해 제한될 것이며, 수천, 수만 개의 동시 캠페인이 가능해질 수 있다고 경고했지만, 이번 사례는 아직 인간의 병목 현상이 존재함을 보여줍니다. 그럼에도 불구하고, AI 에이전트 운영 비용이 저렴하다는 점을 고려할 때, 앞으로 유사한 공격이 확산될 가능성은 높습니다.