최근 연구에서 인공지능(AI) 기반 악성코드 분석 시스템의 허점을 파고드는 새로운 공격 기법 '가드브레이커(GuardBreaker)'가 공개되었습니다. 이 기법은 단 하나의 코드 주석(code comment)을 삽입하는 것만으로도 AI 모델이 악성코드를 정상 프로그램으로 오인하게 만들거나, 분석 과정에서 오류를 일으켜 탐지를 회피할 수 있음을 보여줍니다. 이는 AI를 활용한 사이버 보안 방어 체계의 잠재적 취약성을 명확히 드러내는 사례로 평가됩니다.
가드브레이커는 주로 대규모 언어모델(LLM)과 같은 AI 모델이 코드를 분석하고 이해하는 방식의 맹점을 이용합니다. AI 모델은 코드의 기능적 로직뿐만 아니라 주석과 같은 비실행 코드 요소도 함께 학습하고 처리하는 경향이 있는데, 공격자는 이를 역이용하여 AI의 판단을 흐리게 만듭니다. 예를 들어, 악성코드 내부에 특정 키워드를 포함한 주석을 삽입하면, AI 모델은 해당 주석이 코드의 핵심 기능과 관련이 있다고 잘못 해석하여 악성 행위를 간과하거나, 아예 분석 과정에서 예외를 발생시켜 시스템을 마비시킬 수 있습니다. 이 기법은 기존의 난독화(obfuscation)나 암호화(encryption) 방식과는 달리, 코드의 실행에는 영향을 주지 않으면서 AI 분석만을 교란한다는 점에서 더욱 교묘합니다.
가드브레이커의 등장은 AI 기반 사이버 보안 솔루션 개발자들에게 중요한 시사점을 제공합니다. 현재 많은 보안 기업들이 악성코드 탐지, 취약점 분석, 위협 예측 등에 AI를 적극적으로 도입하고 있지만, 이러한 시스템들이 아직은 예상치 못한 방식으로 우회될 수 있다는 점을 인지해야 합니다. 앞으로는 AI 모델이 코드의 의미론적(semantic) 분석을 더욱 강화하고, 주석과 같은 비실행 요소에 대한 처리 방식을 고도화하여 이러한 공격에 대비해야 할 것입니다. 또한, 인간 전문가의 개입 없이 AI에만 의존하는 보안 시스템의 한계를 재고하고, AI와 인간의 협업을 통해 더욱 견고한 방어 체계를 구축하는 것이 중요해질 전망입니다.