최근 AI 스타트업 앤트로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 클로드(Claude)를 경쟁 모델 훈련에 사용했다는 이유로 일부 사용자 계정을 차단하고 서비스 등급을 강등하는 조치를 취해 논란의 중심에 섰습니다. 한 사용자는 클로드를 직접적으로 증류(distillation)하거나 경쟁 모델을 훈련하는 데 사용하지 않았음에도 불구하고, 연구 자동화 과정에서 클로드가 작업 제출 및 분석을 도왔다는 이유로 제재를 받았다고 주장했습니다. 이로 인해 해당 사용자는 클로드 오푸스(Opus) 5.5에서 5로 등급이 하향되거나 세션이 강제 종료되는 등 서비스 이용에 큰 불편을 겪었습니다.
해당 사용자는 소셜 미디어(SNS)를 통해 앤트로픽의 공동 창업자 다리오 아모데이(Dario Amodei)를 직접 언급하며 강한 불만을 표출했습니다. 그는 클로드를 활용한 작업이 강화 학습(Reinforcement Learning from Human Feedback, RFT), 지도 미세조정(Supervised Fine-Tuning, SFT) 또는 대규모 모델 훈련과 관련된 것이라는 이유로 제재를 받았다고 설명했습니다. 특히, 앤트로픽이 전 세계의 데이터를 기반으로 모델을 구축했으면서도, 정당하게 비용을 지불하는 사용자의 연구 활동을 적대시하는 태도를 비판하며 '한심하다(Pathetic)'는 표현까지 사용했습니다.
이번 사건은 대규모 언어모델(LLM) 제공업체들이 자사 모델의 오용을 방지하고 지적 재산권을 보호하려는 노력과, 사용자들이 AI를 활용해 혁신적인 연구 및 개발을 수행하려는 자유 사이의 긴장감을 명확히 보여줍니다. AI 서비스 약관의 모호성이나 불투명한 제재 기준은 사용자들의 혼란을 야기하고, 장기적으로는 AI 생태계의 신뢰를 저해할 수 있습니다. 특히, 오픈소스(open-source) 모델과 상용 모델을 결합하여 사용하는 연구 방식이 보편화되는 상황에서, 어떤 행위가 '경쟁 모델 훈련'으로 간주되는지에 대한 명확한 가이드라인과 소통이 필요하다는 목소리가 커지고 있습니다.