앤스로픽(Anthropic)의 대규모 언어모델(LLM) 클로드(Claude)가 EU AI 법안(EU AI Act)의 투명성 규약에 따라 AI 생성 콘텐츠에 워터마크를 적용합니다. 이는 생성형 AI 모델 및 시스템 제공자로서의 의무를 이행하고, AI 콘텐츠의 출처를 명확히 하여 사용자들이 정보를 소비하는 데 유용한 맥락을 제공하기 위함입니다.
클로드는 두 가지 주요 방식으로 AI 생성 콘텐츠를 식별합니다. 첫째, 텍스트에는 눈에 보이지 않는 워터마크를 삽입합니다. 이 워터마크는 텍스트의 의미, 품질, 가독성에 영향을 주지 않으며, 복사 및 붙여넣기 후에도 유지될 수 있습니다. 둘째, .svg, .png, .jpg 등 지원되는 파일 유형에는 C2PA(Coalition for Content Provenance and Authenticity) 오픈 표준을 따르는 디지털 서명된 출처 메타데이터를 첨부합니다. 이 메타데이터는 파일이 클로드에 의해 처리되었는지 여부와 위변조 여부를 감지하는 데 사용됩니다. 이러한 마킹은 클로드 플랫폼(API), 클로드 챗봇 등 클로드가 제공되는 모든 곳에 적용되며, 2026년 8월 2일 이후 출시되는 신규 모델에는 기본 적용되고 기존 모델에도 점진적으로 확대될 예정입니다.
이번 워터마크 도입은 AI 생성 콘텐츠의 투명성을 높이고, 딥페이크(deepfake) 등 AI 오용으로 인한 사회적 문제를 완화하는 데 중요한 역할을 할 것으로 기대됩니다. 사용자와 제3자가 클로드의 마크를 감지할 수 있는 도구도 제공될 예정이지만, 마크가 감지되었다고 해서 콘텐츠의 전체 출처를 완전히 확정할 수는 없으며, 마크가 없다고 해서 AI 생성물이 아니라고 단정할 수도 없다는 한계점도 명확히 밝혔습니다. 이는 AI 콘텐츠의 복잡성과 편집 가능성 때문으로, 기술적 진보와 함께 지속적인 개선이 필요함을 시사합니다.