구글(Google)과 앤트로픽(Anthropic)의 클로드(Claude) 등 주요 인공지능(AI) 개발사들이 생성형 AI 텍스트에 워터마크(watermark)를 적용하기 시작했습니다. 이는 AI가 생성한 텍스트인지 여부를 판별하기 위한 기술로, 단순히 문자나 메타데이터를 삽입하는 것이 아니라, AI 모델이 다음 단어를 선택하는 확률적 과정에 비밀스러운 통계적 패턴을 심는 방식으로 작동합니다. 구글은 2024년부터 제미니(Gemini) 앱과 웹에 이 기술을 적용했으며, 클로드의 신형 모델도 2026년 8월부터 모델 수준에서 워터마크를 적용할 예정입니다.
AI 텍스트 워터마킹의 핵심 원리는 언어 모델이 매 순간 여러 자연스러운 후보 단어 중 하나를 가중 확률에 따라 선택한다는 점을 활용합니다. 개발사는 비밀 키(secret key)를 이용해 문맥마다 후보 단어들을 '그린(green)'과 '레드(red)' 그룹으로 임의로 나눈 뒤, 그린 그룹 단어의 선택 확률을 미세하게 높입니다. 이처럼 미세하게 조정된 확률은 문장의 자연스러움을 해치지 않으면서도 긴 텍스트에 통계적 편향을 누적시킵니다. 키를 가진 탐지기는 이 패턴을 재현하여 그린 단어의 출현 빈도를 세고, 우연으로 보기 어려운 수준의 편향이 감지되면 해당 텍스트가 워터마크 처리되었음을 판정합니다. 예를 들어, 1,500단어 문서에서 약 55%의 그린 단어 비율만 보여도 탐지가 가능하지만, 짧은 텍스트나 선택지가 적은 텍스트는 판별이 어렵습니다.
이 기술은 AI 생성 콘텐츠의 무분별한 확산과 오용을 방지하는 데 중요한 역할을 할 것으로 기대됩니다. 특히 학술 부정행위, 허위 정보 생성, 저작권 침해 등 다양한 사회적 문제에 대한 대응책이 될 수 있습니다. 하지만 워터마크가 발견되었다고 해서 반드시 AI가 텍스트를 '작성'했다는 의미는 아니며, 해당 제공자의 모델로 '처리'되었다는 확률적 신호일 뿐입니다. 사람이 쓴 글도 AI 모델로 교정하거나 번역하면 워터마크가 생길 수 있습니다. 또한, 의미를 재구성하는 수준의 강한 편집이나 재작성은 워터마크를 효과적으로 제거할 수 있어, 기술적 한계와 함께 워터마크 제거를 위한 새로운 직업이 생길 수 있다는 전망도 나옵니다.