최근 팔로알토 네트웍스(Palo Alto Networks)의 위협 인텔리전스 팀인 유닛 42(Unit 42)는 인공지능(AI) 모델의 환각(hallucination) 현상이 소프트웨어 공급망 공격의 새로운 벡터(vector)로 활용될 수 있다는 충격적인 연구 결과를 발표했습니다. 이들은 AI가 존재하지 않는 가상의 도메인(AI-hallucinated domains)을 생성하고, 공격자들이 이를 선점하여 악성코드 유포에 이용할 수 있음을 '팬텀 스쿼팅(Phantom Squatting)'이라 명명하며 경고했습니다.
유닛 42 연구팀은 대규모 언어모델(LLM)이 개발자들에게 코드 스니펫(code snippet)이나 라이브러리 사용법을 알려주는 과정에서, 실제로는 존재하지 않는 도메인이나 패키지 이름을 마치 실존하는 것처럼 추천하는 현상에 주목했습니다. 예를 들어, AI가 특정 기능을 구현하기 위해 'example-library.com'이라는 가상의 도메인에서 패키지를 다운로드하라고 제안할 수 있습니다. 만약 공격자가 이 가상 도메인을 미리 등록(domain squatting)한 뒤 악성 코드를 심어놓는다면, AI의 추천을 신뢰한 개발자들은 무심코 악성 코드를 자신의 프로젝트에 포함시키게 됩니다. 이는 소프트웨어 공급망 전체에 심각한 보안 취약점을 야기할 수 있습니다.
이러한 '팬텀 스쿼팅'은 AI 기술의 발전과 함께 등장한 새로운 유형의 사이버 보안 위협입니다. 개발자들이 AI 도구를 활용하여 생산성을 높이는 동시에, AI가 제공하는 정보의 신뢰성을 맹목적으로 믿지 않고 항상 검증하는 습관을 들여야 함을 시사합니다. 특히 오픈소스 라이브러리나 외부 의존성을 추가할 때는 반드시 공식 문서나 신뢰할 수 있는 출처를 통해 도메인과 패키지의 존재 여부 및 안전성을 확인하는 것이 중요합니다. 이는 AI 시대의 소프트웨어 개발 환경에서 보안을 강화하기 위한 필수적인 조치로 자리 잡을 것입니다.