AI 스타트업 앤트로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 클로드(Claude)가 생성하는 모든 텍스트와 파일에 기계가 읽을 수 있는 '보이지 않는 워터마크'를 도입했습니다. 이는 유럽연합(EU) AI법의 투명성 조항에 대응하기 위한 조치로, AI가 만든 콘텐츠의 출처를 명확히 하고 오남용을 방지하려는 목적으로 전 세계 클로드 사용자에게 적용됩니다.
앤트로픽은 텍스트 워터마크에 구글 딥마인드(Google DeepMind)의 '신스ID-텍스트(SynthID-Text)' 기법을 변형하여 사용합니다. AI가 단어를 선택할 때 무작위 난수 대신 비밀 키와 앞 단어들을 기반으로 선택하게 하여, 독자에게는 자연스럽지만 특정 패턴이 통계적으로 유의미하게 나타나도록 합니다. 이 워터마크는 텍스트에 아무것도 추가하지 않으며, 사용자나 대화를 특정할 수 있는 정보는 담기지 않습니다. 또한, 복사 및 붙여넣기, 클라우드 서비스 경유 등에도 유지됩니다. 이미지, SVG, PNG, JPG 등 파일에는 C2PA라는 공개 표준에 기반한 서명된 출처 메타데이터가 붙어, 파일의 생성 및 처리 기록을 암호학적으로 기록하고 변조 여부를 감지할 수 있게 합니다. 이 조치는 앤트로픽뿐만 아니라 구글, 메타, 마이크로소프트, 오픈AI 등 주요 AI 기업들이 서명한 'AI 생성 콘텐츠 투명성 실천강령'에 따른 것으로, 다른 기업들도 유사한 워터마크를 도입할 것으로 예상됩니다.
이 워터마크는 클로드가 콘텐츠 생성에 '관여했을 가능성'을 보여주는 단서일 뿐, 저자가 누구인지 또는 다른 AI가 썼는지 여부를 직접적으로 증명하지는 않습니다. 사람이 글을 대폭 수정하거나, 짧은 글, 단어 선택의 폭이 좁은 코드 등에서는 워터마크 신호가 약해지거나 사라질 수 있습니다. 또한, 워터마크가 없다고 해서 사람이 쓴 글이라는 증명도 아닙니다. 앤트로픽은 현재 텍스트 워터마크를 외부에서 확인할 수 있는 감지 API를 개발 중이며, 파일의 C2PA 메타데이터는 기존 도구로도 확인 가능합니다.
이번 워터마크 도입은 AI 콘텐츠의 투명성과 책임에 대한 중요한 진전이지만, 동시에 여러 질문을 남깁니다. AI로 작업한 결과물에 흔적이 남는 것에 대한 사용자들의 반발, 오픈웨이트 모델(Open-weight model)에 대한 적용의 어려움, 그리고 워터마크 체계가 업계 표준으로 자리 잡을지 여부 등이 그것입니다. AI 기술의 발전과 함께 콘텐츠의 진위 여부를 가리는 기술적, 사회적 논의는 앞으로도 계속될 것입니다.