앤트로픽이 유럽연합(EU)의 AI 투명성 규제에 발맞춰 자사 AI 모델 클로드(Claude)가 생성하는 텍스트에 보이지 않는 워터마크(watermark)를 적용합니다. 이 워터마크 시스템은 구글 딥마인드(Google DeepMind)가 개발한 오픈소스 기술인 '신스ID-텍스트(SynthID-Text)'의 변형 버전을 사용하며, AI가 생성한 콘텐츠임을 기계적으로 식별할 수 있도록 하는 것이 핵심입니다.
앤트로픽은 클로드의 텍스트 워터마킹 시스템이 '단어 확률'을 이용해 감지 가능한 패턴을 만든다고 설명했습니다. 예를 들어, 문맥상 여러 단어가 모두 자연스러운 경우(예: '오늘 날씨는 춥고…' 다음 단어가 '흐리다' 또는 '잿빛이다') AI는 워터마크 키와 이전 단어들을 기반으로 특정 단어를 선택하여 패턴을 심습니다. 이 과정은 텍스트의 품질이나 내용에 실질적인 영향을 주지 않으면서 독자에게는 감지되지 않지만, 특정 키를 가진 분석 도구로는 AI 생성 여부를 판별할 수 있게 합니다. 앤트로픽은 이 기능이 사용자 비용을 증가시키지 않을 것이라고 덧붙였습니다.
이번 조치는 유럽연합(EU)의 AI 법(AI Act)에 따른 의무 사항으로, 합성 오디오, 이미지, 비디오, 텍스트 등 AI 생성 콘텐츠에 기계 판독 가능한 마크를 포함하도록 요구합니다. 구글의 제미니(Gemini) 챗봇은 이미 2024년부터 신스ID-텍스트 솔루션을 지원하고 있으며, 오픈AI(OpenAI) 또한 아직 구체적인 계획을 밝히지 않았지만, 이 법의 적용을 받게 될 예정입니다. 이는 AI 기술의 투명성과 신뢰성을 높여 AI가 생성한 허위 정보나 오용을 방지하려는 전 세계적인 노력의 일환으로 해석됩니다.