최근 보안 스타트업 핵트론 AI(Hacktron AI)의 연구팀이 앤스로픽(Anthropic)의 대규모 언어모델(LLM) 클로드(Claude)를 활용해 오픈AI(OpenAI)의 시스템에 침투하는 데 성공했습니다. 이들은 오픈AI의 버그 바운티(bug-bounty) 프로그램의 일환으로 두 가지 치명적인 취약점을 연쇄적으로 이용, 오픈AI 직원들의 챗GPT(ChatGPT) 계정을 탈취하고 내부 소프트웨어 및 코드 저장소에 접근했습니다. 핵트론은 이 발견을 오픈AI에 보고했으며, 6,500달러의 보상금을 받았습니다.
이번 공격은 오픈AI의 커뮤니티 포럼을 구동하는 서드파티 소프트웨어 디스코드(Discourse)의 취약점에서 시작되었습니다. 연구팀은 아이폰 기본 이미지 형식인 HEIF/HEIC 파일을 업로드하는 과정에서 이미지 처리 라이브러리인 리브헤이프(libheif)의 메모리 버그를 발견했습니다. 이 버그는 이미 몇 달 전에 수정되었지만, CVE(Common Vulnerabilities and Exposures) 번호가 부여되지 않아 디스코드에서 취약한 버전이 사용되고 있었습니다. 핵트론은 클로드 오푸스 5(Claude Opus 5) 모델을 이용해 이 취약점을 악용하는 코드를 생성했고, 디스코드 서버 침투 후 또 다른 취약점을 통해 오픈AI 직원 계정까지 장악했습니다.
이 사건은 AI 모델이 사이버 보안 공격에 얼마나 강력한 도구가 될 수 있는지 명확히 보여줍니다. 핵트론의 창립자는 "AI가 익스플로잇(exploit) 개발에 필요한 전문 지식의 양을 줄이고 있다. 몇 달 걸리던 작업이 이제 며칠 만에 가능해졌다"고 언급했습니다. 이는 일반적인 기술을 가진 사람도 월 200달러 수준의 AI 도구만으로 오픈AI와 같은 선도 기업을 해킹할 수 있음을 의미하며, 국가 단위의 공격 역량에 대한 우려를 낳고 있습니다. AI 기술 발전이 가져올 새로운 보안 위협에 대한 대비와 함께, 소프트웨어 공급망 전반의 취약점 관리 중요성이 더욱 부각되고 있습니다.