인공지능(AI)이 산업 전반에 걸쳐 혁신을 가져오고 있지만, 동시에 사이버 위협의 수준도 한층 더 복잡하고 정교해지고 있습니다. 악의적인 공격자들 역시 AI를 활용해 방어 시스템을 우회하는 새로운 수법을 개발하고 있기 때문입니다. 이에 따라 기업의 사이버 보안 전략은 단순히 AI 기술을 도입하는 것을 넘어, AI와 인간 전문가의 협업을 통한 '사이버 준비 태세(cyber-readiness)' 강화에 초점을 맞춰야 한다는 목소리가 커지고 있습니다.
글로벌 사이버 준비 태세 플랫폼인 핵 더 박스(Hack The Box)의 CEO 해리스 필라리노스(Haris Pylarinos)는 "AI는 방어자와 범죄자 모두에게 강력한 도구"라며, AI가 공격을 증가시키고 있다고 지적합니다. 그는 AI가 방어자에게 상당한 이점을 제공하지만, 단순히 AI를 채택하는 것만으로는 부족하며, AI를 지시하고, 결과를 검증하며, 필요할 때 개입할 수 있는 '사람'에게 투자하는 기업이 가장 큰 이점을 얻을 것이라고 강조합니다. 핵 더 박스는 800개 이상의 기업 고객과 400만 명 이상의 사이버 보안 전문가 커뮤니티를 보유하고 있으며, 실제 공격을 반영한 위협 기반 학습, 실습 환경, 실전 훈련 등을 통해 기업의 사이버 인력 역량을 개발하고 측정하도록 돕습니다.
이러한 접근 방식은 사이버 보안 분야에서 '직원 대 자동화'라는 이분법적 사고방식이 더 이상 유효하지 않음을 보여줍니다. 공격자들이 AI와 인간 지능을 결합하여 공격하는 상황에서, 완전히 자동화된 방어 시스템은 빠르게 무력화될 수 있기 때문입니다. 핵 더 박스의 사장 깁 위덤(Gibb Witham)은 "조종사가 비행기를 타기 전 비행 시뮬레이터가 필요하듯, 사이버 보안 팀도 핵 더 박스와 같은 플랫폼을 통해 인간의 기술과 AI 역량을 안전하고 현실적으로 테스트해야 한다"고 말합니다. AI의 효과는 사용자의 전문 지식과 직결되며, 전문가들은 AI 모델에 더 나은 프롬프트를 제공하고 그 결과물을 정확하게 검수할 수 있습니다.
결론적으로, AI 시대의 사이버 보안은 AI를 만능 해결사로 여기고 인간 인력을 대체하려는 시도보다는, 인간 전문가의 숙련된 판단력과 AI의 효율성을 결합하는 새로운 훈련 패러다임을 요구합니다. 필라리노스는 "AI를 모든 곳에 설치하고 문제가 해결되기를 기대하는 기업은 실패할 것이며, '운전석에 앉은 인간'에게 진정으로 투자하는 기업이 승리할 것"이라고 강조합니다. 현실적인 사이버 환경에서 인간과 AI 팀이 함께 훈련하고, AI가 작업을 가속화하는 지점과 인간의 판단이 필수적인 지점을 이해하는 것이 중요합니다. 이를 통해 인간 전문가는 AI의 도움을 받아 하루에 처리할 수 있는 경고의 수를 획기적으로 늘릴 수 있으며, 이는 사이버 방어 역량의 기하급수적인 증가로 이어질 것입니다.