최근 IBM이 발표한 연례 데이터 유출 비용 보고서(Cost of a Data Breach Report)에 따르면, 전체 악성 데이터 유출 사고 중 4분의 1이 인공지능(AI) 기술을 활용한 공격으로 발생하고 있으며, 이로 인해 기업들은 평균 600만 달러(약 82억 원)의 피해를 입는 것으로 조사되었습니다. 이는 AI가 사이버 보안의 방어와 공격 양면에서 핵심적인 도구로 자리 잡고 있음을 보여주는 중요한 지표입니다.
보고서는 AI 기반 공격이 주로 피싱(phishing), 악성코드(malware) 생성, 소셜 엔지니어링(social engineering) 등 다양한 형태로 진화하고 있다고 지적합니다. 공격자들은 AI를 이용해 더욱 정교하고 개인화된 공격을 설계하여 기존 보안 시스템을 우회하고 있습니다. 또한, AI 시스템 자체의 취약점을 노려 모델을 조작하거나 민감한 학습 데이터를 탈취하려는 시도도 늘어나고 있어, AI 모델의 무결성과 보안이 새로운 위협으로 부상하고 있습니다.
이러한 추세는 기업들에게 AI 도입과 활용에 있어 보안을 최우선으로 고려해야 한다는 경고를 던집니다. AI 기반 공격은 탐지하기 어렵고 파급력이 크기 때문에, 기업들은 AI 보안 전략을 수립하고, AI 시스템 개발 단계부터 보안을 내재화하는 '시큐리티 바이 디자인(security by design)' 접근 방식을 채택해야 합니다. 이는 단순히 기존 보안 솔루션을 강화하는 것을 넘어, AI 시대에 맞는 새로운 보안 패러다임으로의 전환이 필요함을 의미합니다.