인공지능(AI) 스타트업 앤트로픽(Anthropic)이 중국 AI 연구소들이 자사의 대규모 언어모델(LLM) 클로드(Claude)와의 사용자 대화를 불법적으로 사용해 자체 AI 모델을 훈련했다고 주장했습니다. 앤트로픽은 이러한 행위가 자사 서비스 약관을 명백히 위반한 것이며, 지적 재산권 침해에 해당한다고 강조했습니다. 이번 사건은 AI 기술 개발 경쟁이 심화되는 가운데 데이터 사용의 윤리적 문제와 보안 취약성에 대한 우려를 다시 한번 수면 위로 끌어올리고 있습니다.
앤트로픽에 따르면, 해당 중국 AI 연구소들은 클로드와의 수백만 건에 달하는 대화 기록을 몰래 수집하여 자신들의 모델을 개선하는 데 활용했습니다. 이는 앤트로픽이 클로드 서비스 이용자들에게 명시한 약관, 즉 생성된 콘텐츠를 다른 AI 모델 훈련에 사용하지 못하도록 하는 조항을 위반한 것입니다. 이러한 무단 사용은 AI 모델 훈련에 필요한 양질의 데이터 확보가 어려워지면서 발생하는 편법적인 시도로 풀이됩니다. 특히, 클로드와 같은 선도적인 LLM의 대화 데이터는 모델의 성능을 향상시키는 데 매우 귀중한 자원으로 여겨집니다.
이번 사건은 AI 산업 전반에 걸쳐 데이터 보안 및 지적 재산권 보호의 중요성을 다시금 일깨우는 계기가 될 것으로 보입니다. AI 모델 훈련에 사용되는 데이터의 출처와 사용 방식에 대한 투명성 및 규제 강화의 필요성이 더욱 부각될 수 있습니다. 또한, AI 서비스 제공업체들은 자사 플랫폼의 보안을 강화하고 약관 위반 행위를 탐지하는 기술을 고도화해야 할 과제를 안게 되었습니다. 사용자들 역시 자신이 생성한 데이터가 어떻게 활용될 수 있는지에 대한 인식을 높이고, 서비스 이용 약관을 신중하게 검토할 필요가 있습니다.