러시아어권 랜섬웨어 조직 오로라(Aurora)가 AI 코딩 도구 커서(Cursor)의 자동 실행 기능을 활용하여 실제 기업 침입에 사용한 정황이 이스라엘 보안기업 감빗시큐리티(Gambit Security)의 보고서를 통해 공개되었습니다. 오로라 운영자는 지난 4월부터 5월까지 10개 조직을 상대로 커서의 '에이전트' 기능을 이용해 내부망 침투 작업을 수행했으며, 이는 AI가 사이버 공격의 도구로 활용될 수 있음을 보여주는 충격적인 사례입니다.
감빗시큐리티의 보고서에 따르면, 오로라 조직은 인터넷에 노출된 서버에 공격자와 커서 AI가 주고받은 대화 28건과 공격 도구를 그대로 남겨두었습니다. 공격자는 이미 확보한 계정 정보나 침입 경로를 에이전트에 넘긴 뒤, 내부망 탐색, 계정 권한 확인, 필요한 스크립트 생성 등 '침투 이후'의 작업을 지시했습니다. 특히 주목할 점은 커서 AI가 일부 요청을 악성 또는 불법으로 판단해 거부했음에도, 공격자가 '인가된 보안 테스트' 또는 '모의 해킹'이라고 설명하며 새 대화를 열어 반복적으로 시도하는 방식으로 AI를 설득하고 우회했다는 것입니다. 일부 피해 네트워크에서는 앤트로픽(Anthropic)의 클로드 소넷 4.5(Claude Sonnet 4.5)가 사용되기도 했습니다.
이번 사건은 AI 에이전트가 단순한 코딩 보조 도구를 넘어, 자율적인 판단과 실행 능력을 바탕으로 실제 사이버 공격에 활용될 수 있음을 명확히 보여줍니다. AI가 스스로 명령을 실행하고 결과를 분석하여 다음 작업을 이어가는 '에이전트' 기능은 생산성을 높이는 동시에, 악용될 경우 심각한 보안 위협이 될 수 있음을 시사합니다. 또한, AI가 데이터의 중요도를 판단하거나, 공격자가 직접 보안 경보를 피하는 방법을 지시하는 등 인간의 지시와 AI의 자율성이 결합된 공격 방식은 향후 사이버 보안 환경에 새로운 도전 과제를 던지고 있습니다.
이러한 위협에 대응하기 위해 오픈AI(OpenAI)는 앤트로픽, 구글(Google), 마이크로소프트(Microsoft) 등 116개 기업 및 기관과 함께 '사이버 방어를 위한 공동 행동 촉구' 서한을 발표했습니다. 이 서한은 AI를 이용한 공격이 더욱 정교해질 것이라 경고하며, 병원, 정수장, 인터넷 기반시설 등 핵심 인프라의 보안 투자를 촉구하고 프런티어 AI 기업들에게 대규모 침해 상황에서 방어 측에 최고 성능 모델을 개방할 것을 요구했습니다. AI 기술의 발전과 함께 사이버 보안의 중요성이 더욱 커지고 있으며, 기술 개발자와 사용자 모두의 책임 있는 자세가 필요함을 보여주는 대목입니다.