메타(Meta)가 자사 AI 모델로 생성된 이미지에 보이지 않는 워터마크를 삽입하는 '콘텐츠 실(Content Seal)'을 공개했습니다. 이는 메타 감독 위원회(Oversight Board)의 권고에 따라 생성형 AI 콘텐츠의 확산을 막기 위한 노력의 일환으로, 자사의 새로운 AI 모델인 뮤즈(Muse)로 만든 이미지에 적용됩니다. 하지만 이 발표는 뮤즈 이미지 및 비디오 생성 도구 공개에 묻혀 크게 주목받지 못했습니다.
콘텐츠 실은 구글(Google)의 신스아이디(SynthID)와 유사하게 사람의 눈에는 보이지 않는 '숨겨진 출처 신호(hidden provenance signal)'를 AI 생성 이미지에 삽입합니다. 이 워터마크는 이미지가 잘리거나 압축, 크기 조정, 스크린샷 등으로 변형되어도 감지될 수 있다고 메타는 설명합니다. 그러나 콘텐츠 실은 현재 메타가 테스트 중인 전용 웹 도구를 통해서만 감지할 수 있으며, 메타 AI 챗봇(chatbot)에는 아직 통합되지 않았습니다. 또한, 뮤즈로 생성된 이미지에만 적용되고 이전 AI 모델이나 생성된 비디오에는 지원되지 않는다는 한계가 있습니다. 메타는 감지 도구 사용 횟수에도 일일 제한을 두어 오용을 방지하려 합니다.
메타는 구글과 함께 C2PA(Coalition for Content Provenance and Authenticity) 표준을 지지하는 등 AI 감지 문제 해결에 협력 의사를 보여왔습니다. 구글의 신스아이디는 이미 오픈AI(OpenAI) 등 경쟁사에서도 채택하고 있어, 메타가 굳이 자체 시스템을 구축한 배경에 의문이 제기됩니다. 현재 콘텐츠 실은 메타 플랫폼 외부에서 효과적으로 작동하는지에 대한 의문이 있으며, 다른 AI 감지 표준과 함께 사용될 때의 호환성도 불분명합니다. 이러한 한계는 AI 콘텐츠의 투명성을 높이려는 메타의 노력이 아직 초기 단계에 있음을 시사하며, 업계 표준과의 연동 및 범용성 확보가 중요한 과제로 남아있습니다.