구글 딥마인드(Google DeepMind)가 AI 생성 미디어의 출처를 확인할 수 있는 새로운 도구인 'SynthID Detector'를 공개했습니다. 이 도구는 사용자가 업로드한 이미지, 영상, 오디오 파일에서 'SynthID' 워터마크를 탐지하여 해당 콘텐츠가 AI로 생성되거나 편집되었는지 여부를 알려줍니다. 이는 생성형 AI 기술의 발전과 함께 확산될 수 있는 기만적인 콘텐츠에 대응하기 위한 노력의 일환으로 주목받고 있습니다.
SynthID는 구글 딥마인드가 개발한 디지털 워터마킹 기술로, AI가 콘텐츠를 생성할 때 사람이 인지할 수 없는 미세한 신호를 콘텐츠 자체에 삽입합니다. 이는 눈에 보이는 로고나 쉽게 제거될 수 있는 메타데이터와 달리, 픽셀이나 주파수 성분 등 콘텐츠 본질에 워터마크를 새겨넣어 인터넷에서 공유되고 변형되어도 신호가 유지되도록 설계되었습니다. 현재 구글(Google), 엔비디아(Nvidia), 오픈AI(OpenAI), 카카오(Kakao) 등 주요 AI 기업들이 SynthID를 자사 모델에 적용하고 있으며, SynthID Detector는 이들 협력사 모델이 생성한 콘텐츠를 식별하는 데 특화되어 있습니다. 지원하는 파일 형식은 JPG, PNG 등 일반적인 이미지 파일과 MP4, MOV 등의 영상, WAV, MP3 등의 오디오 파일입니다.
하지만 SynthID Detector는 모든 AI 생성 콘텐츠를 탐지할 수 있는 범용 도구는 아닙니다. SynthID를 적용하지 않은 AI 모델이 만든 콘텐츠나, 워터마크가 심하게 손상될 정도로 강하게 압축되거나 편집된 콘텐츠는 탐지하지 못할 수 있습니다. 따라서 '워터마크 미검출(Watermark not detected)' 결과가 AI 생성이나 조작 가능성을 완전히 배제하는 것은 아니며, 구글 측은 고품질 원본 파일과 추가 증거를 함께 활용할 것을 권장합니다. 이는 AI 생성 콘텐츠의 진위 여부를 판단하기 위한 다층적인 접근 방식 중 하나로, 워터마킹, 메타데이터 표준, 그리고 다양한 검증 도구가 함께 작동하는 생태계 구축이 필요하다는 점을 시사합니다.
이러한 워터마킹 기술은 AI 콘텐츠의 투명성을 높여 이용자들이 더 충분한 정보를 바탕으로 콘텐츠를 판단할 수 있게 돕는다는 긍정적인 측면이 있습니다. 그러나 일각에서는 로그인 필수 정책이나 대량 검증의 어려움, 그리고 워터마크가 '감시용 표식(spymark)'으로 악용될 가능성에 대한 우려도 제기됩니다. 구글은 서비스 약관을 통해 워터마크 탐지 무력화 시도나 자동화된 대량 검증을 금지하고 있으며, 업로드된 미디어는 결과 반환 직후 삭제하지만, 사용량 제한 및 악용 방지를 위해 디지털 서명은 사용자 식별자와 연결하여 24시간 보관 후 삭제한다고 밝히고 있습니다. 이는 AI 콘텐츠 생태계의 신뢰를 구축하는 과정에서 기술적 한계와 함께 개인정보 보호, 악용 방지 등 다양한 윤리적, 정책적 고려가 필요함을 보여줍니다.