최근 한 연구원이 앤트로픽(Anthropic)의 대규모 언어모델(LLM) 클로드(Claude)와 관련된 6테라바이트(TB) 규모의 데이터 덤프를 중국 기반의 LLM 라우터 서비스에서 구매해 충격적인 사실을 밝혀냈습니다. 이 데이터에는 샤오미(Xiaomi), 화웨이(Huawei) 등 주요 중국 기업뿐만 아니라 여러 정부 기관과 관련된 민감한 정보가 다수 포함되어 있었으며, 이는 잠재적으로 이들 기관에 대한 해킹 공격에 활용될 수 있는 수준인 것으로 분석되었습니다.
해당 연구원은 이 데이터 덤프가 LLM 사용자들이 클로드 모델에 질의(query)하는 과정에서 생성된 것으로 추정하고 있습니다. 특히 중국 내에서 LLM 서비스에 접근하기 위해 사용되는 중간 라우터(router) 서비스가 사용자 데이터를 제대로 익명화하거나 삭제하지 않고 저장했을 가능성이 제기됩니다. 유출된 데이터에는 내부 프로젝트 계획, 기술 사양, 직원 정보, 심지어 정부 문서 초안까지 포함되어 있었던 것으로 알려져, 단순한 사용자 정보 유출을 넘어 국가 안보와 기업 경쟁력에 직접적인 위협이 될 수 있음을 시사합니다.
이번 사건은 기업과 기관들이 LLM을 업무에 활용할 때 데이터 보안에 얼마나 취약할 수 있는지 극명하게 보여줍니다. 특히 민감한 정보를 LLM에 입력할 경우, 해당 데이터가 모델 학습에 사용되거나, 제3의 서비스 제공자를 통해 유출될 위험이 상존한다는 경고음으로 작용합니다. 따라서 LLM 도입을 고려하는 모든 조직은 데이터 입력 정책을 강화하고, 신뢰할 수 있는 LLM 서비스 제공자를 선택하며, 민감 정보의 익명화 및 비식별화(anonymization and de-identification) 조치를 철저히 해야 할 필요성이 더욱 커졌습니다.