인공지능(AI) 모델과 데이터셋을 공유하는 대표적인 플랫폼인 허깅 페이스(Hugging Face)에서 최근 보안 침해 사고가 발생했습니다. 공격자들이 사용자 인증 토큰을 탈취하여 일부 AI 모델에 무단 접근한 것으로 알려졌습니다. 이는 단순한 데이터 유출을 넘어, AI 모델 자체의 무결성과 보안이 얼마나 취약할 수 있는지 보여주는 경고등으로 해석됩니다.
이번 해킹은 허깅 페이스의 세일즈포스(Salesforce) 계정에서 유출된 토큰을 통해 이루어졌으며, 공격자들은 이 토큰을 이용해 허깅 페이스의 특정 사용자 계정에 접근했습니다. 다행히 허깅 페이스는 신속하게 대응하여 유출된 토큰을 무효화하고 영향을 받은 사용자들에게 비밀번호 재설정을 권고했습니다. 하지만 전문가들은 이번 사건이 AI 모델 저장소와 개발 환경이 새로운 사이버 공격의 주요 표적이 될 수 있음을 명확히 보여준다고 분석합니다. 특히, 기업들이 AI 모델을 개발하고 배포하는 과정에서 보안에 대한 인식이 아직 부족하다는 점이 큰 문제로 지적되고 있습니다.
이번 허깅 페이스 해킹은 AI 시대의 사이버 보안 패러다임이 변화하고 있음을 시사합니다. 기존의 데이터베이스나 네트워크 보안을 넘어, AI 모델 자체의 취약점과 모델 접근 권한 관리가 핵심적인 보안 과제로 떠오르고 있습니다. 이는 AI 모델에 대한 무단 접근이 민감한 학습 데이터 유출, 모델 조작을 통한 오작동 유발, 심지어는 국가 안보와 직결될 수 있는 핵심 기술 탈취로 이어질 수 있기 때문입니다. 따라서 기업들은 AI 모델의 개발부터 배포, 운영에 이르는 전 과정에서 강력한 보안 프로토콜을 구축하고, AI 특화된 위협에 대한 이해를 높여야 할 것입니다.