앤트로픽(Anthropic)이 유럽연합(EU)의 AI 법규 준수를 위해 자사 대규모 언어모델(LLM) 클로드(Claude)가 생성하는 200토큰(약 150단어) 이상의 모든 텍스트에 워터마크를 적용할 예정입니다. 이는 보이지 않는 유니코드 문자 삽입 방식이 아니라, 비밀 키를 이용해 다음 단어 선택 확률을 조정하는 방식입니다. 즉, 특정 단어 후보군(‘green’ 목록)의 선택 확률을 높여 통계적인 흔적을 남기는 방식으로 작동합니다. 이 워터마크는 전 세계 클로드 모델에 일괄 적용될 예정입니다.
워터마크는 다음 토큰 후보를 동적으로 ‘green’과 ‘red’ 목록으로 나누고, ‘green’ 후보를 조금 더 자주 선택하도록 모델의 단어 선택에 편향을 줍니다. 앤트로픽과 구글(Google)은 이러한 방식이 글의 품질, 의미, 가독성에 실질적인 영향을 미치지 않는다고 주장하지만, 전문가들은 동의어라도 미묘한 의미와 뉘앙스 차이가 존재하며, 워터마크가 모델이 판단한 최적의 단어 선택을 방해할 수 있다고 지적합니다. 구글의 제미니(Gemini)에 대한 약 2천만 개 응답 실험에서도 워터마크 적용 여부에 따른 사용자 만족도(thumbs-up/down) 차이가 통계적으로 유의미하지 않았다는 결과가 나왔지만, 이는 미묘한 품질 저하를 포착하기 어렵다는 한계가 있습니다. 워터마크는 긴 텍스트일수록 탐지하기 쉽지만, 의도적인 재작성으로 제거될 수 있으며, 반대로 인간이 작성한 글도 교정, 요약, 인용, 번역 과정을 거치면 클로드가 작성한 것으로 오인될 수 있어 정직한 사용자에게 불필요한 부담을 줄 수 있습니다.
이러한 워터마크 방식은 AI 생성 콘텐츠의 투명성을 높이려는 EU 규정 준수를 위한 것이지만, 여러 문제점을 야기합니다. 첫째, 앤트로픽만이 워터마크 생성 및 탐지 비밀 키를 보유하므로 일반 사용자는 자신의 글에 워터마크가 있는지, 특정 단어가 워터마크 때문에 선택된 것인지 독립적으로 검증할 수 없습니다. 둘째, 워터마크가 글쓰기 품질에 미치는 영향에 대한 논란이 있습니다. ‘grey’와 ‘overcast’처럼 의미가 비슷해 보이는 단어라도 문맥과 뉘앙스에 따라 최적의 선택이 달라질 수 있는데, 워터마크가 이러한 미묘한 차이를 무시하고 통계적 흔적을 남기도록 단어 선택을 유도할 수 있기 때문입니다. 셋째, 워터마크의 제거 가능성과 오탐지 위험입니다. AI 생성물을 자신의 글처럼 제출하려는 사용자는 AI 재작성 도구로 워터마크를 쉽게 제거할 수 있지만, 정직한 사용자는 자신의 글을 클로드로 가볍게 교정하거나 요약했을 뿐인데도 AI 생성물로 오인받을 수 있습니다. 이는 AI 도구 사용에 대한 불필요한 도덕적 잣대를 부과할 수 있다는 비판으로 이어집니다. 앤트로픽이 지역별 적용 범위를 제한하지 못하고 전 세계에 워터마크를 일괄 적용하는 점도 기술 스택 통제력에 대한 우려를 낳고 있습니다.