최근 '카르보나토(CARBONATO)'라는 이름의 AI 기반 봇넷이 사용자들의 개인 인증 정보를 탈취하여 자체 대규모 언어모델(LLM) 게이트웨이 운영 자금을 마련하는 충격적인 행태가 발견되었습니다. 이는 사이버 범죄자들이 AI 기술을 단순히 공격 도구로 사용하는 것을 넘어, AI 인프라를 구축하고 유지하는 데 필요한 자금을 불법적으로 조달하는 새로운 진화 단계를 보여줍니다.
카르보나토 봇넷은 주로 피싱(phishing)이나 악성코드(malware)를 통해 사용자들의 로그인 정보, 특히 소셜 미디어 및 광고 플랫폼 계정 정보를 훔치는 것으로 알려졌습니다. 이렇게 탈취한 계정 정보는 광고 사기(ad fraud)에 활용되어 수익을 창출하며, 이 수익금은 봇넷 운영자들이 자신들의 LLM 게이트웨이를 유지하고 확장하는 데 사용됩니다. 즉, 훔친 정보로 돈을 벌어 AI 시스템을 돌리는 자급자족형 범죄 생태계를 구축하고 있는 것입니다.
이러한 현상은 사이버 보안 업계에 심각한 경고를 던집니다. AI 기술이 발전하면서 범죄자들도 이를 악용하는 방식이 더욱 정교하고 복합적으로 진화하고 있음을 의미합니다. 사용자들은 개인 정보 보호에 더욱 각별한 주의를 기울여야 하며, 기업들은 AI 기반 위협에 대응하기 위한 보안 시스템 강화와 함께 새로운 유형의 사이버 범죄에 대한 지속적인 모니터링 및 분석이 필수적입니다. AI 시대의 보안은 단순히 데이터를 보호하는 것을 넘어, AI 인프라 자체를 노리는 공격에 대한 방어 전략까지 포함해야 할 것입니다.