최근 앤트로픽(Anthropic)의 AI 챗봇 클로드(Claude) 유료 구독자들이 자신도 모르게 토큰을 도난당하는 피해를 겪고 있어 비상이 걸렸습니다. 한 독립 AI 컨설턴트인 그랜트 드 스워트(Grant De Swardt)는 클로드를 사용하지 않았는데도 토큰 사용량이 급증하는 것을 발견했고, 앤트로픽에 문의한 결과 해커가 그의 계정 세션 키를 탈취해 무단으로 클로드 코드를 사용했음이 밝혀졌습니다. 이로 인해 그의 비즈니스 운영에 큰 차질이 발생했습니다.
드 스워트의 사례 외에도 레딧(Reddit)과 깃허브(GitHub) 등 온라인 커뮤니티에서는 유사한 피해 사례가 속출하고 있습니다. 일부 사용자는 동의 없이 계정이 유료로 전환되거나, 사용하지 않았는데도 토큰이 소진되는 경험을 공유했습니다. 앤트로픽은 일부 사용자에게 '인포스틸러(infostealer)' 악성코드가 컴퓨터에 설치되어 클로드 로그인 세션이 도난당했을 수 있다고 경고하는 이메일을 보냈습니다. 인포스틸러는 저장된 비밀번호, 세션 데이터, 로그인 자격 증명 등을 훔치는 악성코드의 일종입니다. 앤트로픽은 의심스러운 활동을 감지하면 해당 사용자를 로그아웃시키고, 기존 권한을 무효화하며, 일부 환불 조치를 취했습니다. 그러나 드 스워트의 경우처럼 악성코드 감염 증거를 찾지 못한 채 피해를 본 사례도 있어, 해커들이 접근 권한을 얻는 경로가 다양할 수 있음을 시사합니다.
이번 사건은 AI 서비스의 보안 취약성과 사용자 데이터 투명성 부족 문제를 여실히 드러냈습니다. 앤트로픽은 총 사용량만 추적할 뿐, 상세한 토큰 사용 내역을 제공하지 않아 사용자들이 무단 사용을 즉시 파악하기 어렵게 만들었습니다. 드 스워트는 이러한 문제 해결 없이 클로드로 돌아갈 수 없다고 밝히며 다른 AI 모델로 전환했습니다. AI 기술이 비즈니스와 일상생활에 깊숙이 통합되고 있는 만큼, 서비스 제공업체는 보안 강화와 함께 사용자에게 투명한 사용 내역을 제공하여 신뢰를 구축하는 것이 더욱 중요해질 것입니다.