최근 앤트로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 클로드(Claude)를 이용해 연구 자동화 작업을 하던 한 유료 사용자를 '경쟁 모델 학습'을 이유로 차단하고 모델 사용을 제한하는 조치를 취해 논란이 되고 있습니다. 해당 사용자는 클로드를 직접 미세조정(fine-tuning)하거나 증류(distillation)하지 않았으며, 단지 작업 제출과 분석 실행을 돕는 용도로만 사용했다고 주장하며 앤트로픽의 정책에 강하게 반발하고 있습니다.
피해를 주장하는 지아하오 샤오(Jiahao Shao)는 클로드를 활용해 RFT, SFT 등 더 큰 모델 학습과 관련된 연구 자동화를 진행하던 중 사용자 차단, 모델 다운그레이드, 세션 강제 종료 등의 조치를 겪었다고 밝혔습니다. 그는 앤트로픽이 전 세계의 데이터를 활용해 모델을 구축했으면서도, 정작 유료 사용자의 연구 활동을 적대적으로 대하고 있다고 비판했습니다. 특히 홍콩 IP 주소 사용 등 지리적 위치가 원인일 수 있다는 추측도 있었으나, 다른 사용자들은 미국과 EU에서도 유사한 제한을 경험했다고 밝혀 IP 문제가 아닌 앤트로픽의 내부 정책에 따른 조치임을 시사했습니다.
이번 사건은 AI 서비스 제공 기업의 사용 정책과 데이터 활용 윤리에 대한 중요한 질문을 던집니다. 앤트로픽은 자신들의 모델 학습에는 전 세계의 지식재산을 자유롭게 활용하면서도, 사용자가 자사 서비스를 통해 다른 모델의 발전에 기여할 가능성만 보여도 즉각적인 제재를 가하는 이중적인 태도를 보이고 있다는 비판을 피하기 어렵습니다. 이는 AI 생태계의 개방성과 표준화에 대한 필요성을 강조하며, 사용자들이 특정 AI 서비스에 종속되지 않도록 대안을 마련해야 한다는 목소리를 높이고 있습니다. 장기적으로는 AI 모델의 학습 데이터 목록과 방법 공개를 의무화하여 투명성을 확보해야 한다는 주장까지 제기되고 있습니다.