구글이 최근 LLM(Large Language Model) 기반 시스템을 노리는 새로운 사이버 공격 방식인 'LLM재킹(LLMjacking)'의 위험성을 경고했습니다. 이 공격은 LLM 인프라를 무단으로 탈취하여 악성 활동에 사용하는 것으로, 일부 기업은 이로 인해 최대 100만 달러(약 13억 원)에 달하는 클라우드 컴퓨팅 비용 손실을 겪고 있는 것으로 나타났습니다.
LLM재킹 공격은 주로 LLM 모델의 API(Application Programming Interface) 키나 클라우드 계정 자격 증명을 탈취하여 이루어집니다. 공격자들은 이렇게 확보한 접근 권한으로 기업의 LLM을 이용해 스팸 메일 작성, 피싱(phishing) 캠페인 실행, 악성코드(malware) 생성, 심지어 사기성 콘텐츠 제작 등 다양한 불법 행위를 저지릅니다. 특히, LLM 추론(inference)에 필요한 막대한 컴퓨팅 자원을 무단으로 사용함으로써, 피해 기업은 자신도 모르는 사이에 엄청난 클라우드 사용료를 지불하게 됩니다. 구글은 이러한 공격이 주로 오픈소스 LLM을 사용하는 환경에서 발생할 가능성이 높다고 지적하며, 보안 설정 미흡이 주요 원인이라고 덧붙였습니다.
이러한 LLM재킹 공격은 단순히 금전적 손실을 넘어 기업의 데이터 보안과 평판에 치명적인 영향을 미칠 수 있습니다. LLM이 기업의 핵심 비즈니스 프로세스에 깊숙이 통합되고 있는 만큼, LLM 시스템의 보안 취약점은 전체 시스템의 신뢰도를 떨어뜨리고 민감한 정보 유출로 이어질 수 있습니다. 따라서 기업들은 LLM 배포 시 강력한 인증 메커니즘, 접근 제어, 지속적인 모니터링 등 다층적인 보안 전략을 구축하여 잠재적 위협에 대비해야 할 필요성이 커지고 있습니다. 이는 AI 기술 도입의 이점만큼이나 보안 리스크 관리가 중요하다는 것을 보여주는 사례입니다.