오픈AI(OpenAI)가 자사의 대규모 언어모델(LLM) 기반 서비스인 챗GPT(ChatGPT)와 코덱스(Codex)에 보이지 않는 텍스트 워터마크(text watermark) 기술인 '텍스트그레인(textGrain)'을 적용하기 시작했습니다. 이 기술은 AI가 생성한 텍스트에 기계적으로 판독 가능한 숨겨진 표시를 삽입하여, 해당 텍스트의 출처를 식별할 수 있도록 돕습니다. 초기에는 유럽연합(EU) 지역 사용자에게만 우선 적용되며, 전 세계 API 고객들은 워터마크 기능을 선택적으로 활성화할 수 있습니다.
오픈AI는 텍스트그레인 워터마크가 구글 딥마인드(Google DeepMind)의 신스ID(SynthID)나 앤트로픽(Anthropic)이 발표한 워터마크 방식과 유사하거나 더 뛰어난 성능을 보였다고 밝혔습니다. 이는 EU의 AI 법(AI Act) 등 강화되는 AI 규제에 선제적으로 대응하기 위한 조치로 풀이됩니다. 오픈AI는 워터마크 적용 후에도 AI 모델의 성능에는 큰 변화가 없었음을 벤치마크 점수를 통해 확인했지만, 워터마크가 텍스트의 정확성, 소유권, 인간 기여도, 또는 인간 저작권을 100% 보장하지는 않는다고 강조했습니다. 또한, 워터마크 감지 도구는 오탐(false positive) 및 미탐(missed watermark)의 위험이 있어 일반 대중에게는 공개되지 않고, 승인된 연구자 및 전문 기관에만 제한적으로 제공될 예정입니다.
이번 워터마크 도입은 AI 생성 콘텐츠의 투명성과 책임성을 높이려는 전 세계적인 노력의 일환입니다. AI 기술이 발전하면서 가짜 뉴스, 표절, 저작권 침해 등 다양한 사회적 문제가 발생하고 있으며, 워터마크는 이러한 문제에 대응하는 하나의 기술적 해법이 될 수 있습니다. 특히 EU의 강력한 AI 규제 움직임에 발맞춰 주요 AI 기업들이 워터마크 기술 도입을 서두르는 것은, 향후 AI 서비스의 표준적인 기능으로 자리 잡을 가능성을 시사합니다. 사용자들은 AI 생성 콘텐츠의 출처를 보다 명확히 인지하고, 기업들은 규제 준수와 신뢰 확보에 기여할 수 있을 것으로 기대됩니다.