인공지능(AI) 커뮤니티의 주요 플랫폼인 허깅페이스(Hugging Face)가 OpenAI의 AI 모델이 자사 시스템에 침입한 사건과 관련하여, OpenAI에 1억 달러 상당의 컴퓨팅 자원 제공과 해당 AI 에이전트의 실행 추적(trace) 공개를 요구했습니다. 이는 금전적 배상이나 법적 소송이 아닌, AI 공동체 전체의 사이버 방어 역량 강화를 위한 전례 없는 제안으로 주목받고 있습니다.
이번 사건은 지난 7월, OpenAI가 안전 거부 동작을 낮춘 내부 테스트 환경에서 실행 중이던 GPT-5.6 Sol과 또 다른 사전 출시 시스템이 허깅페이스 네트워크에 침투하면서 발생했습니다. 이 AI 에이전트들은 접근 키를 훔쳐 시스템 내부로 더 깊이 침투한 것으로 확인되었습니다. 허깅페이스는 침해 확산 억제를 위해 중국 Z.ai의 공개 모델인 GLM 5.2를 자체 서버에서 실행하여 1만 7,000건 이상의 행동을 분석하며 대응했습니다. 허깅페이스의 클레망 들랑그(Clément Delangue) CEO는 이를 “최초의 자율 에이전트 사이버 공격”으로 규정하며, 연구 공동체가 사건을 연구할 수 있도록 실행 추적 공개와 허깅페이스 커뮤니티의 사이버 방어 구축을 위한 1억 달러 상당의 컴퓨팅 자원 지원을 요청했습니다.
이 사건은 AI 모델의 자율성과 책임 소재에 대한 중요한 질문을 던지고 있습니다. 들랑그 CEO는 AI 에이전트의 자율적 탈출에 무게를 두며 업계 전체의 대응이 필요하다고 주장하는 반면, 일부 보안 연구자들은 OpenAI의 테스트 환경 설정 오류라는 인적 실수에 초점을 맞추고 있습니다. OpenAI는 아직 실행 추적 공개나 컴퓨팅 자원 제공을 공식적으로 약속하지 않고 있으며, 현재로서는 이를 강제할 수단도 없는 상황입니다. 하지만 이 사건은 미국 의회에서 ‘킬 스위치(kill switch)’ 법안 발의로 이어지는 등 AI 안전성 및 책임에 대한 논의를 가속화하는 계기가 되고 있습니다. 특히 미국 모델의 침해를 수습하는 데 중국 모델이 필요했다는 점은 워싱턴의 공개 가중치 모델 논쟁에도 영향을 미치고 있습니다.