세 명의 독립 보안 연구원으로 구성된 핵트론(Hacktron) 팀이 앤트로픽(Anthropic)의 대규모 언어모델(LLM) 클로드 오푸스 4.8 및 5를 이용해 72시간도 채 되지 않아 오픈AI(OpenAI) 직원 계정을 해킹하는 데 성공했습니다. 이들은 오픈AI의 깃허브(GitHub) 저장소인 '모노레포(Monorepo)'에 접근했으며, 월스트리트저널(WSJ)에 따르면 이 저장소에는 "오픈AI의 알고리즘 비밀"이 담겨 있다고 합니다. 핵트론은 내부 코드에 직접 접근하는 대신, 직원 계정에서 풀 리퀘스트(pull request)를 보내 접근 권한을 증명했습니다.
이번 해킹은 오픈AI 커뮤니티 포럼을 호스팅하는 서드파티 서비스인 디스코드(Discourse)의 HEIF 이미지 처리 시스템 취약점을 악용하여 이루어졌습니다. 핵트론에 따르면, 클로드 오푸스 5가 출시된 지 하루도 채 되지 않아 이들은 이를 활용해 디스코드 클라우드(Discourse Cloud)에서 원격 코드 실행(RCE)을 달성하고 오픈AI 인스턴스에 접근했습니다. 'HEIF 하이스트(Heist)'라는 이 프로젝트는 3,000달러 미만의 토큰 비용으로 오픈AI뿐만 아니라 슬랙(Slack), 메타(Meta), 깃허브 엔터프라이즈(GitHub Ent), 레일즈(Rails), 넥스트JS(Next.js), 이미지매직(ImageMagick) 등 여러 기업에 적용될 수 있음을 보여주었으며, 단 한 곳(쇼피파이)에서만 탐지되었다고 합니다. 핵트론은 디스코드와 오픈AI에 취약점을 보고했으며, 오픈AI로부터 버그 발견에 대한 보상으로 6,500달러를 지급받았습니다.
이번 사건은 대규모 언어모델(LLM)이 단순한 생산성 도구를 넘어, 잠재적으로 강력한 공격 도구로 활용될 수 있음을 보여줍니다. 핵트론의 CTO 모한 페다파티(Mohan Pedhapati)는 "우리는 중국의 위협 행위자들만큼 강하지 않다. 우리는 클로드와 코덱스(Codex) 구독을 가진 세 명의 사람일 뿐"이라고 언급하며, 소규모 팀도 LLM을 활용해 상당한 보안 위협을 가할 수 있음을 시사했습니다. 이는 AI 시대의 사이버 보안 환경이 급변하고 있으며, 기업들이 AI 기반 공격에 대한 방어 전략을 시급히 강화해야 함을 의미합니다. 또한, AI 모델 자체의 보안뿐만 아니라, AI가 활용되는 전반적인 시스템의 취약점 관리의 중요성을 강조합니다.