xAI의 코딩 지원 명령줄 인터페이스(CLI) 도구인 '그록 빌드(Grok Build)'가 사용자의 로컬 개발 환경에서 광범위한 데이터를 xAI 서버로 은밀하게 전송하고 있다는 충격적인 분석 결과가 공개되었습니다. 독립적인 AI 안전 검사관인 @cereblab에 따르면, 그록(grok) CLI는 사용자의 명시적인 동의 없이 코드 저장소의 모든 파일 내용, Git 변경 이력, 그리고 심지어 API 키나 민감한 정보가 담긴 .env 파일까지 그대로 xAI의 구글 클라우드 스토리지(GCS) 버킷으로 업로드하고 있었습니다.
이 분석은 그록 0.2.93 버전을 대상으로 한 와이어 레벨(wire-level) 분석을 통해 이루어졌으며, 재현 가능한 증거를 바탕으로 합니다. 핵심 발견 사항은 세 가지입니다. 첫째, .env 파일의 비밀 정보가 모델과의 상호작용 채널(POST /v1/responses)과 세션 상태 아카이브(POST /v1/storage)를 통해 두 번 전송되었습니다. 둘째, 에이전트가 특정 파일을 읽지 않도록 지시했음에도 불구하고, 전체 저장소의 모든 추적 파일과 Git 이력이 통째로 업로드되었습니다. 셋째, 12GB에 달하는 대규모 저장소에서도 5.10GiB의 데이터가 성공적으로 전송되었으며, 이는 모델이 실제로 읽은 데이터량(192KB)과 비교할 때 압도적으로 큰 규모로, 코드베이스 전체 업로드를 명확히 입증합니다. 이러한 데이터 전송 메커니즘은 CLI 설치 또는 퀵스타트 문서에 명시되지 않았고, '모델 개선' 옵션을 비활성화해도 꺼지지 않았습니다.
이번 사태는 AI 도구가 사용자 데이터를 처리하는 방식에 대한 투명성과 통제권의 중요성을 다시 한번 일깨웁니다. 개발자들은 자신의 코드가 AI 모델 개선에 활용되는 것에 동의할 수 있지만, 민감한 정보나 전체 코드베이스가 명시적인 고지 없이 전송되는 것은 심각한 보안 및 개인 정보 침해로 이어질 수 있습니다. 특히 스타트업이나 개인 개발자의 경우, 지적 재산권 보호와 기업 비밀 유출 위험에 노출될 수 있습니다. xAI는 이 논란 이후 서버 측에서 업로드 기능을 비활성화하고, 개인 정보 보호 옵션을 추가했으며, 일론 머스크(Elon Musk)는 이전에 업로드된 모든 데이터를 삭제하겠다고 공개적으로 약속했지만, 이러한 조치가 충분한지는 지켜봐야 할 것입니다. AI 개발 도구를 사용할 때는 항상 데이터 처리 방침을 면밀히 확인하고, 민감한 정보는 분리하여 관리하는 신중한 접근이 필요합니다.