인공지능(AI) 스타트업 앤트로픽(Anthropic)이 중국 기반 AI 기업들이 자사의 최첨단 AI 모델 클로드(Claude)의 핵심 역량을 탈취하려는 대규모 '증류 공격(distillation attack)'을 감행했다고 밝혔습니다. 이 공격은 모델의 내부 추론 과정(chain of thought)을 빼내어 자신들의 소규모 모델을 훈련시키는 데 활용하려는 목적으로, 최근 몇 달간 그 규모와 정교함이 급증했다고 앤트로픽은 경고했습니다.
앤트로픽 보고서에 따르면, 이번 증류 공격은 클로드의 에이전트(agentic) 기능, 도구 사용(tool use), 코딩 및 데이터 분석, 논리적 추론 등 가장 가치 있는 역량들을 집중적으로 노렸습니다. 특히 알리바바(Alibaba)가 주도한 것으로 추정되는 캠페인은 2026년 5월부터 7월까지 약 1억 5천만 건의 교환을 기록하며 앤트로픽이 관측한 가장 큰 규모의 공격으로 지목되었습니다. 이들은 특정 프롬프트를 이용해 클로드의 사고 과정을 추출한 뒤, 이를 알리바바의 콴원(Qwen) 모델군 훈련에 사용하려 했던 것으로 보입니다. 또한, 문샷 AI(Moonshot AI)는 중국 군부와 연계된 것으로 보이는 요청을 통해 클로드 오푸스(Claude Opus) 모델에 접근, 감시 영상 분석 등 민감한 작업을 시도한 정황도 포착되었습니다.
이러한 증류 공격은 단순히 모델의 출력을 모방하는 것을 넘어, 모델이 특정 답변에 도달하는 내부적인 '사고 과정'을 추출하려는 시도입니다. 앤트로픽은 일반적으로 모델의 사고 과정을 요약된 형태로만 제공하지만, 공격자들은 번역 요청 등으로 위장하는 등 특정 기법을 사용해 모델이 직접 사고 흔적을 드러내도록 유도했습니다. 이는 첨단 AI 모델 개발에 막대한 자원과 시간이 투입되는 상황에서, 경쟁사들이 지름길을 택해 기술 격차를 빠르게 줄이려는 시도로 해석될 수 있습니다. 이러한 공격은 AI 모델의 지적 재산권 보호 문제와 함께, 국가 안보 및 윤리적 사용에 대한 심각한 우려를 제기하며 AI 개발 경쟁의 어두운 단면을 보여주고 있습니다.