앤트로픽(Anthropic)이 자사 대규모 언어모델(LLM) 기반 챗봇 클로드(Claude)가 생성하는 텍스트에 워터마크를 적용하는 구체적인 방안을 공개했습니다. 이는 EU AI Act의 투명성 규정 준수를 위한 조치로, AI가 생성한 콘텐츠를 식별할 수 있는 시스템을 도입하라는 요구에 따른 것입니다. 워터마크 도입 소식에 일부 사용자들은 반발하기도 했으나, 앤트로픽은 워터마크가 텍스트의 품질에 영향을 주지 않으며 독자에게는 감지되지 않는다고 설명했습니다.
앤트로픽은 구글 딥마인드(Google DeepMind)가 2024년에 발표한 SynthID-Text 방식을 활용할 예정이며, 워터마크 감지 API도 출시할 계획입니다. 이 워터마크는 모델이 '흐린'과 '회색'처럼 의미상 큰 차이가 없는 단어를 선택할 때 미묘한 패턴을 생성하여, 특정 키를 가진 사람만 AI 생성 여부를 식별할 수 있도록 합니다. 이는 글쓰기 패턴을 분석하여 AI 사용 여부를 추론하는 기존의 AI 감지 방식과는 근본적으로 다릅니다. 가벼운 편집으로는 워터마크가 완전히 제거되지 않지만, 모든 단어를 교체하는 수준의 완전한 재작성은 워터마크를 제거할 수 있습니다. 코드(Code)의 경우, 모델이 작동하는 코드를 생성해야 하므로 임의의 선택의 여지가 적어 워터마크가 덜 적용될 것이며, 주로 주석(comments) 부분에 사용될 것이라고 앤트로픽은 밝혔습니다.
이번 워터마크 도입은 AI 생성 콘텐츠의 투명성과 신뢰성을 높이는 중요한 전환점이 될 것으로 보입니다. AI 기술이 발전하면서 가짜 정보나 오용에 대한 우려가 커지는 상황에서, AI 생성 콘텐츠임을 명확히 식별할 수 있게 되면 책임 소재를 분명히 하고 정보의 신뢰도를 확보하는 데 기여할 것입니다. 앤트로픽은 클로드 외에도 다른 주요 모델 개발사들도 유사한 워터마크 시스템을 구현할 것이라고 언급하여, AI 산업 전반에 걸쳐 이러한 투명성 노력이 확산될 것임을 시사했습니다. 이는 사용자들에게 AI 콘텐츠에 대한 더 큰 신뢰를 제공하고, AI 기술의 건전한 발전을 촉진하는 계기가 될 것입니다.