인공지능(AI) 스타트업 앤트로픽(Anthropic)이 자사 AI 모델인 클로드(Claude)가 생성하는 모든 텍스트에 워터마크를 적용한다고 밝혔습니다. 이는 유럽연합(EU)의 AI 법(EU AI Act) 투명성 규정 준수를 위한 조치로, AI가 만든 콘텐츠를 식별 가능하게 하여 오용을 방지하려는 의도입니다.
앤트로픽은 지난 8월 2일 이후 출시된 모든 모델에 AI 생성 텍스트와 파일에 워터마크 기술을 자동 적용하고 있으며, 기존 모델에도 확대 적용할 예정입니다. 특히, 이 워터마크는 텍스트의 일부로 포함되어 복사 및 붙여넣기를 해도 유지되며, 클로드 플랫폼 API, 클로드, 클로드 코드, 클로드 코워크, 클로드 태그 등 모든 클로드 제품에서 생성된 텍스트에 일관되게 적용됩니다. 파일의 경우 C2PA 개방형 표준을 활용합니다. 이는 사용자가 AI 생성 콘텐츠를 쉽게 식별할 수 있도록 하여, AI 오용으로 인한 혼란을 줄이는 데 기여할 것으로 보입니다.
이번 앤트로픽의 결정은 AI 생성 콘텐츠에 대한 규제 및 사회적 요구가 커지고 있음을 보여줍니다. 최근 AI 음악 플랫폼 수노(Suno)도 법적 분쟁 이후 생성 트랙에 워터마크를 적용하기 시작했으며, 뉴스레터 서비스 서브스택(Substack)은 팽그램(Pangram)과 협력하여 AI 생성 콘텐츠를 식별하고 있습니다. 구글(Google), 메타(Meta), 마이크로소프트(Microsoft), 오픈AI(OpenAI) 등 다른 주요 AI 기업들도 EU의 규정 준수를 약속하며 AI 콘텐츠 투명성 확보에 동참하고 있습니다. 이러한 움직임은 AI 기술의 발전과 함께 책임 있는 AI 활용의 중요성이 더욱 부각되고 있음을 시사합니다.