체크포인트(Check Point) 연구진이 대규모 언어모델(LLM)의 환각(hallucination) 현상을 이용해 웹 브라우저만으로 랜섬웨어 공격을 수행하는 새로운 기법을 공개했습니다. 이는 LLM이 잘못된 정보를 생성하는 특성과 웹 브라우저의 파일 시스템 접근 권한을 결합한 것으로, 사용자가 특정 웹 페이지에 접속하는 것만으로도 파일이 암호화될 수 있는 잠재적 위협을 보여줍니다. 기존 랜섬웨어는 악성 소프트웨어 설치가 필수적이었지만, 이 기법은 웹 환경 내에서 직접적인 피해를 유발할 수 있다는 점에서 주목됩니다.
이 공격은 크게 두 단계로 진행됩니다. 첫째, 공격자는 악의적인 웹 페이지를 만들어 LLM이 특정 명령을 생성하도록 유도합니다. 예를 들어, LLM에게 '파일을 암호화하는 자바스크립트(JavaScript) 코드를 작성해달라'고 요청하고, LLM이 환각으로 인해 실제로는 존재하지 않지만 그럴듯해 보이는 API(Application Programming Interface) 호출 등을 포함한 코드를 생성하게 만듭니다. 둘째, 이 코드는 웹 브라우저의 파일 시스템 접근 API를 통해 사용자 컴퓨터의 로컬 파일에 접근하고 암호화합니다. 최근 웹 브라우저들은 웹 애플리케이션의 기능을 강화하기 위해 파일 시스템에 대한 접근 권한을 제공하는데, 이 권한이 악용될 경우 사용자의 동의 없이도 파일 조작이 가능해지는 것입니다. 체크포인트는 이 공격이 실제로 파일을 암호화하고 복호화 비용을 요구하는 방식으로 작동함을 시연했습니다.
이번 연구는 LLM의 환각 현상이 단순한 정보 오류를 넘어 실제 보안 위협으로 이어질 수 있음을 경고합니다. 특히 웹 브라우저 기반의 공격은 소프트웨어 설치 과정 없이 웹 페이지 방문만으로 이루어질 수 있어, 일반 사용자들이 인지하기 어렵고 방어하기 더욱 까다롭습니다. 이는 웹 개발자들이 브라우저의 파일 시스템 접근 권한을 더욱 신중하게 다루고, LLM 기반 서비스 제공자들이 모델의 안전성을 강화하며, 사용자들은 출처를 알 수 없는 웹 페이지 방문에 각별히 주의해야 함을 시사합니다. AI 기술 발전과 함께 새로운 형태의 사이버 보안 위협에 대한 지속적인 연구와 대비가 필요합니다.