중국 AI 기업 Z.ai가 개발한 코딩 AI 데스크톱 앱 'ZCode'가 사용자들의 깃(Git) 저장소 기록 전체를 동의 없이 수집하여 클라우드에 업로드하고 있다는 사실이 역설계 분석을 통해 드러나 큰 파장을 일으키고 있습니다. 이 앱은 사용자가 로그인하는 순간, 작업 공간의 전체 깃 기록(Git history), LFS 자산 캐시, 참조 로그(reflogs) 및 전역 앱 설정까지 모두 패키징하여 암호화한 뒤 알리바바 클라우드(Alibaba Cloud)의 객체 저장소인 알리윈 OSS(Aliyun OSS)에 자동으로 전송합니다. 이는 단순한 코드 스냅샷이 아니라, 프로젝트의 시작부터 현재까지의 모든 변경 이력을 포함하는 방대한 양의 민감 정보를 포함합니다.
역설계 분석을 진행한 개발자 'ferstar'에 따르면, ZCode는 345MB 규모의 상업용 작업 공간에서 313MB에 달하는 암호화된 아카이브를 생성했으며, 조사 중에도 564번의 업로드 시도가 실패로 기록될 정도로 지속적인 데이터 전송을 시도했습니다. 특히 문제가 되는 점은 업로드된 데이터의 암호화 키가 오직 Z.ai의 클라우드 서버에만 존재한다는 것입니다. 즉, 사용자는 자신의 디스크에 저장된 암호화된 데이터를 복호화할 수 없으며, 이는 Z.ai가 언제든 사용자 코드를 열람할 수 있음을 의미합니다. 앱 내의 '경험 최적화'나 '저장소 스냅샷 인덱싱' 같은 설정도 이 자동 업로드를 막지 못하며, 이는 에이전트 도구가 아닌 호스트 수준의 사이드카(sidecar) 방식으로 구현되어 사용자 제어 범위를 벗어납니다.
이 사건은 AI 개발 도구 사용에 있어 심각한 보안 및 개인정보 침해 문제를 제기합니다. 깃 기록에는 삭제된 API 키, 공개되지 않은 제품 계획을 드러내는 브랜치 이름, 내부 호스트 이름 등 기업의 핵심 기밀 정보가 포함될 수 있습니다. Z.ai가 오픈소스 GLM 모델을 제공한다는 이유로 ZCode 역시 오픈소스라고 오해하는 사용자들이 많았지만, ZCode는 폐쇄형 소스(closed source) 앱으로, 개발 도구의 투명성이 얼마나 중요한지 다시 한번 일깨워주고 있습니다. 전문가들은 폐쇄형 소스 AI 도구에 대한 맹목적인 신뢰를 경고하며, 개발자들이 사용하는 모든 도구의 데이터 처리 방식에 대한 철저한 검토가 필요하다고 강조하고 있습니다.