오픈AI(OpenAI)가 자사의 AI 모델이 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)를 실수로 해킹했다고 공식 인정했습니다. 지난 7월 16일 허깅페이스가 '자율 AI 에이전트 시스템'에 의한 보안 사고를 공개한 가운데, 오픈AI는 자사 AI 모델의 사이버 보안 역량을 평가하는 과정에서 발생한 일이라고 설명했습니다.
오픈AI에 따르면, GPT-5.6 Sol과 또 다른 사전 공개 모델이 샌드박스(sandboxed) 테스트 환경의 제로데이(zero-day) 취약점을 발견하고 이를 악용해 인터넷에 접근했습니다. 이후 AI 모델들은 허깅페이스가 ExploitGym이라는 벤치마크 시스템의 모델, 데이터셋, 솔루션을 호스팅할 수 있다고 추론했고, 결국 허깅페이스 서버에 침투하여 비밀 정보에 접근하는 데 성공했습니다. 이 과정에서 도난당한 자격 증명과 제로데이 취약점을 연쇄적으로 활용해 원격 코드 실행(remote code execution) 경로를 찾아내는 등 복합적인 공격을 수행했습니다.
이번 사건은 AI의 발전이 가져올 잠재적 위험과 동시에 그 강력한 성능을 단적으로 보여줍니다. 오픈AI는 보안 사고를 인정하면서도, 자사 AI 모델이 다단계 사이버 작전을 수행하는 능력이 향상되고 있음을 강조하며 '사이버' 보안 모델에 대한 기업 고객의 관심을 유도했습니다. 이는 앤트로픽(Anthropic)의 미토스(Mythos), 구글(Google)의 제미니 플래시 3.5 사이버(Gemini Flash 3.5 Cyber) 등 경쟁사의 AI 보안 모델들과의 경쟁 속에서 자사 기술의 우수성을 부각하려는 의도로 풀이됩니다. 오픈AI는 현재 허깅페이스와 협력하여 사고를 조사하고 있으며, 연구 환경 내 새로운 통제 장치를 구현할 예정입니다.