앤트로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 클로드(Claude)가 생성하는 텍스트와 이미지에 보이지 않는 워터마크를 적용하겠다고 발표했습니다. 이는 유럽연합(EU)의 AI 투명성 규제에 발맞추기 위한 노력의 일환으로, AI 생성 콘텐츠의 출처를 명확히 하고 신뢰성을 높이는 데 목적이 있습니다. 이 워터마크는 사람의 눈으로는 식별할 수 없지만, 기계를 통해 AI 생성 여부를 감지할 수 있도록 설계되었습니다.
앤트로픽은 클로드 플랫폼(Claude Platform) API, 클로드(Claude), 클로드 코드(Claude Code), 클로드 코워크(Claude Cowork), 클로드 태그(Claude Tag) 등 지원되는 모든 클로드 모델에 워터마크를 전 세계적으로 적용할 계획입니다. 이미지의 경우 어도비(Adobe), 오픈AI(OpenAI), 구글(Google) 등이 채택한 출처 메타데이터 표준인 C2PA(Content Authenticity Initiative)를 활용하며, 텍스트에는 의미나 품질, 가독성에 영향을 주지 않으면서 텍스트 자체에 워터마크를 심는 '인지 불가능한 워터마크(imperceptible watermark)' 기술을 사용합니다. 이 텍스트 워터마크는 AWS, 구글 클라우드, 마이크로소프트 파운드리 등 클라우드 서비스를 통해 클로드 모델에 접근할 때도 적용됩니다.
이번 조치는 AI 생성 콘텐츠의 확산으로 인한 가짜 정보 문제와 저작권 침해 우려가 커지는 상황에서 중요한 의미를 가집니다. 워터마크를 통해 AI 생성 콘텐츠를 쉽게 식별할 수 있게 되면, 온라인 플랫폼에서 콘텐츠의 출처를 투명하게 공개하고 사용자들이 AI 생성 여부를 인지하며 소비할 수 있게 될 것입니다. 앤트로픽은 향후 워터마크 감지 시스템에 대한 기술 문서를 공개하여 사용자 및 제3자가 클로드 생성 콘텐츠의 워터마크를 감지할 수 있도록 지원할 예정입니다. 하지만 C2PA 데이터가 쉽게 제거될 수 있고, 텍스트 워터마크의 견고성도 아직 불분명하다는 점에서 완벽한 해결책은 아니며, 앤트로픽 역시 워터마크가 없는 콘텐츠도 AI가 생성했을 가능성을 배제하지 않고 있습니다.