인공지능(AI)의 급속한 발전이 사이버 보안 환경을 송두리째 뒤흔들고 있습니다. 코그니션(Cognition)의 최고 보안 책임자(CSO)이자 오랜 사이버 보안 전문가인 알렉스 스타모스(Alex Stamos)는 현재 사이버 보안 업계가 전례 없는 혼란에 빠져 있으며, AI가 촉발한 해킹과 침해의 물결로 인해 기존의 수십억 달러 규모 산업이 사실상 무용지물이 될 위기에 처했다고 경고했습니다.
스타모스에 따르면, 최근 몇 주간 PHP, Node 등 주요 소프트웨어의 대규모 취약점(bug)과 함께 수많은 기업들이 연쇄적으로 침해당했습니다. 특히 AI 관련 신생 기업인 '네오클라우드(neoclouds)'들이 연이어 공격받았고, 역대 최대 규모의 암호화폐 탈취 사건인 바이낸스(Binance) 해킹도 발생했습니다. 주목할 만한 사례는 파이어웍스(Fireworks) 해킹으로, 여기서 탈취된 API 키가 커서(Cursor) 침해로 이어졌고, 커서의 악성 플러그인이 5,000개 이상의 기업에 배포되어 잠재적 침해를 유발하는 등 AI를 활용한 공격이 실시간으로 취약점을 찾아내고 익스플로잇(exploit)을 작성하며 연쇄적으로 확산되고 있습니다. 이러한 상황은 1990년대 인터넷 초기와 유사하게, '항상 연결된(always-online)' 세상이 새로운 혼돈의 시대를 맞이하고 있음을 보여줍니다.
이러한 현상은 AI가 공격자의 '킬 체인(kill chain)' 역량을 자동화하고 가속화하면서 발생합니다. 과거에는 공격자가 취약점을 연구하고 익스플로잇을 개발하는 데 상당한 시간과 노력을 들였지만, 이제는 AI 시스템이 실시간으로 목표 시스템의 취약점을 탐지하고, 즉시 익스플로잇을 생성하여 침투하는 것이 가능해졌습니다. 중국의 오픈소스 도구인 ARTEX와 같은 AI 기반 시스템이 이러한 공격 자동화를 가능하게 하며, 이는 러시아나 북한 같은 국가 주체뿐만 아니라 다양한 사설 공격 그룹의 역량을 비약적으로 증대시키고 있습니다. 스타모스는 장기적으로는 해결책을 찾을 수 있겠지만, 당분간은 사이버 보안의 '암흑기(dark age)'를 겪게 될 것이라고 전망했습니다.
이러한 변화는 사이버 보안 산업 전반에 걸쳐 근본적인 재편을 요구합니다. 기존의 방어 전략과 도구들이 AI 기반의 고도화된 공격에 효과적으로 대응하지 못하고 있기 때문입니다. 기업들은 단순한 패스워드 관리나 보안 인식 교육을 넘어, AI 기반의 위협 탐지 및 대응 시스템을 도입하고, 공급망 전체의 보안을 강화하는 등 더욱 정교하고 능동적인 방어 체계를 구축해야 할 것입니다. 또한, AI가 생성하는 가짜 정보(misinformation)와 '쓰레기(slop)' 콘텐츠가 소셜 네트워크를 통해 확산되는 문제 역시 새로운 보안 과제로 부상하고 있습니다. AI 시대의 사이버 보안은 기술적 방어를 넘어 사회적, 정책적 대응을 아우르는 복합적인 접근이 필요합니다.