인공지능(AI) 개발사 앤트로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 클로드(Claude)가 생성하는 모든 콘텐츠에 AI 생성 여부를 식별할 수 있는 표시를 도입합니다. 이는 유럽연합(EU)의 AI 법(AI Act) 제50조 2항에 따른 투명성 행동강령에 서명한 결과로, 2026년 8월 2일 이후 EU에 출시되는 클로드 모델부터 적용될 예정입니다. 이 조치로 AI가 생성한 콘텐츠의 투명성이 강화될 것으로 기대됩니다.
앤트로픽은 클로드 모델이 생성하는 텍스트에는 사람의 눈에는 보이지 않는 '내장 워터마크'를 삽입하고, .svg, .png, .jpg 등 지원 파일에는 C2PA 표준 기반의 '디지털 서명된 출처 메타데이터'를 첨부할 계획입니다. 이 표시는 클로드 플랫폼(API)을 비롯해 클로드, 클로드 코드(Claude Code) 등 모든 제품과 AWS, 구글 클라우드(Google Cloud), 마이크로소프트 파운드리(Microsoft Foundry)를 통해 이용되는 클로드 모델에도 전 세계적으로 적용됩니다. 워터마크는 텍스트의 의미나 품질, 가독성에 영향을 주지 않으면서 복사 및 붙여넣기 후에도 유지될 수 있도록 설계됩니다. 앤트로픽은 향후 제3자가 이 표시를 탐지할 수 있는 기술 지침과 수단도 공개할 예정입니다.
이번 조치는 AI 생성 콘텐츠의 오남용과 허위 정보 확산을 방지하려는 글로벌 규제 움직임의 일환입니다. EU AI 법은 AI 시스템의 위험 수준에 따라 차등적인 의무를 부과하며, 생성형 AI 서비스 제공자에게 투명성 강화를 요구하고 있습니다. 다만, 앤트로픽은 표시가 발견되더라도 콘텐츠의 전체 출처를 확정할 수 없으며, 표시가 없다고 해서 AI 생성 가능성을 배제할 수 없다는 한계점도 명확히 밝혔습니다. 이는 AI가 콘텐츠를 교정, 번역, 요약만 했을 경우나, 콘텐츠가 수정 또는 결합되었을 가능성, 혹은 워터마크가 제거될 수 있는 기술적 한계 등을 고려한 것입니다. 따라서 AI 콘텐츠 식별 기술은 계속 발전해야 할 과제를 안고 있습니다.