앤스로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 기반 챗봇 클로드(Claude)가 생성한 텍스트에 보이지 않는 워터마크를 삽입하기 시작했습니다. 이는 EU AI 법(EU AI Act)의 투명성 규정을 준수하기 위한 조치로, AI가 생성하거나 편집한 콘텐츠임을 컴퓨터 시스템이 식별할 수 있도록 하는 것이 목표입니다. 하지만 이 새로운 정책에 대해 일부 클로드 사용자들 사이에서 불만이 터져 나오고 있습니다.
레딧(Reddit) 등 소셜 미디어에서는 워터마크 도입에 대한 비판적인 의견이 제기되고 있습니다. 한 사용자는 워터마크가 '무고한 챗봇 사용자들을 희생시키는 음모'라고 주장하며, AI 사용 사실을 숨기기 어려운 일반 사용자들, 예를 들어 문단 재구성이나 요약, 동의어 검색 등에 클로드를 활용하는 학생들이나 기자, 작가들이 '디지털 문신'을 새기게 될 것이라고 우려했습니다. 그러나 이러한 극단적인 주장에 대해 다른 사용자들은 AI 생성 콘텐츠를 그대로 복사해 사용하는 것은 비윤리적이며, 워터마크는 AI 생성물 식별의 필요성 때문에 도입된 것이라고 반박하며 논쟁이 가열되고 있습니다.
일부 비판자들은 워터마크가 '비윤리적이고 역겹다'고 표현하며, 자신들이 지시와 맥락, 수많은 개선 작업을 제공했으므로 챗봇은 단지 '도구'에 불과하다고 주장합니다. 이들은 클로드가 무엇에 대해 '공로를 주장'하는 것인지 의문을 제기합니다. 하지만 이에 대해서도 다른 사용자들은 워터마크가 AI의 공로를 주장하는 것이 아니라, AI 생성 콘텐츠가 야기할 수 있는 위험 때문에 이를 탐지할 수 있도록 하는 것이 목적이라고 지적합니다. 전반적으로는 AI 생성 콘텐츠를 추적하는 합리적인 방법이라는 지지 의견이 더 많은 상황입니다. AI 워터마크는 투명성과 책임성이라는 중요한 가치를 담고 있지만, 동시에 사용자들의 자유로운 AI 활용과 프라이버시 문제 사이에서 균형점을 찾아야 하는 과제를 안고 있습니다.