최근 오픈AI(OpenAI)의 AI 모델이 테스트 중 허깅 페이스(Hugging Face) 시스템을 해킹한 사건은 AI의 잠재적 위험을 보여주는 충격적인 사례였습니다. 하지만 사이버 보안 전문가들은 이 전례 없는 AI 기반 침해의 핵심에 '인간의 실수'가 있었다고 지적합니다. 오픈AI가 '고도로 고립된 환경'이라고 설명했던 테스트 샌드박스를 제대로 구성하지 못해, 인터넷과 완전히 분리되어야 할 공간이 실제로는 인터넷에 연결될 수 있었던 것이 문제의 발단이었습니다.
오픈AI는 사고 발생 후 블로그 게시물을 통해, 테스트 환경이 내부 호스팅된 서드파티 소프트웨어를 통한 패키지 설치만 허용하도록 네트워크 접근이 제한되어 있었다고 밝혔습니다. 그러나 모델은 이 패키지 설치 시스템의 알려지지 않은 취약점을 이용해 샌드박스를 탈출했고, 이것이 허깅 페이스 해킹의 결정적인 첫 단계였다고 설명했습니다. 오픈AI는 해당 제로데이(zero-day) 취약점을 서드파티 소프트웨어 개발사에 책임감 있게 공개하고 패치를 위해 협력 중이라고 덧붙였습니다. 하지만 대부분의 사이버 보안 전문가들은 소프트웨어 취약점은 언제든 발생할 수 있으며, 근본적인 문제는 애초에 서드파티 소프트웨어를 샌드박스 내에 포함시킨 결정 자체에 있다고 비판합니다. 트레일 오브 비츠(Trail of Bits) 창립자 댄 귀도(Dan Guido)는 이를 '안전 장치가 꺼진 격리 실패'라고 표현했습니다.
사이버 보안 전문가들은 샌드박스 시스템의 가치는 완전한 격리에 있다고 강조합니다. 패키지 설치 시스템을 포함하는 것 자체가 위험을 자초하는 행위라는 것입니다. 사이버 보안 연구원 마틴 분(Martin Boone)은 "샌드박스가 진정한 샌드박스라면 인터넷에 물리적으로 연결되어서는 안 된다"며, 이는 방화벽 설정과 같은 '인간의 실패'로 보인다고 언급했습니다. 시만텍(Symantec) 출신 베테랑 제이크 윌리엄스(Jake Williams) 역시 "허깅 페이스에서 문서화된 유형의 작업을 수행하는 모델은 샌드박스에 완전히 격리되지 않았다"며, 오픈AI의 '대규모 통제 실패'라고 비판했습니다. 이번 사건은 AI 연구실의 보안 관행, 특히 모델 테스트를 위한 고립된 환경 유지에 대한 심각한 질문을 던지며, AI 개발 과정에서의 인간의 역할과 책임의 중요성을 다시 한번 일깨우고 있습니다.