대규모 언어모델(LLM)이 생성한 텍스트의 출처를 식별하는 워터마크(watermark) 기술이 중요해지는 가운데, 이를 분석하고 탐지하는 오픈소스 도구 'WMTrace'가 공개되어 주목받고 있습니다. 최근 앤트로픽(Anthropic)이 워터마크 기술을 도입하며 그 필요성이 더욱 커진 상황에서, WMTrace는 텍스트에 숨겨진 워터마크의 작동 방식을 시각적으로 보여주고, 그 증거를 명확하게 제시하는 것을 목표로 합니다.
WMTrace는 단순히 'AI 텍스트 탐지기'가 아닌, 특정 워터마크 스킴(scheme), 키(key), 설정에 대한 교정된 증거를 제공하는 포렌식 작업대입니다. 이 도구는 '증거'를 중시하며, '97% AI'와 같은 불투명한 점수 대신 E0부터 E5까지의 등급과 명확한 범위 설명을 포함하는 '증거 번들'을 제공합니다. 예를 들어, 'kgw-toy'와 같은 컨텍스트 기반 녹색 목록(green-list) 워터마크 스킴을 탐지하고, 녹색 토큰 히트맵으로 시각화하여 워터마크의 존재를 보여줍니다. 또한, 제로폭(zero-width) 유니코드나 어휘 코드북(lexical-codebook)을 이용한 페이로드(payload) 숨김 기능도 분석할 수 있습니다.
이 도구의 핵심 원칙은 '판단이 아닌 증거'입니다. 음성적인 워터마크 결과가 텍스트가 사람이 썼다는 것을 의미하지 않으며, 페이로드가 복구되었다고 해서 누가 삽입했는지 증명하지 않는다는 점을 명확히 합니다. 이는 LLM 텍스트의 출처를 둘러싼 복잡한 문제를 해결하는 데 있어 투명성과 신뢰성을 확보하려는 노력으로 해석됩니다. WMTrace는 연구자들이 워터마크 기술을 더 깊이 이해하고, 개발자들이 책임감 있는 AI 시스템을 구축하는 데 중요한 기반을 제공할 것으로 기대됩니다.