최근 온라인에 유포된 미치 매코널(Mitch McConnell) 미국 상원의원의 가짜 병원 사진이 구글의 딥페이크 탐지 시스템 '신스ID(SynthID)'에 의해 AI 생성 이미지로 판별되었습니다. 이 사진은 매코널 의원이 병상에 누워 고통스러워하는 모습을 담고 있었으며, 그의 건강에 대한 대중의 우려를 증폭시키며 엑스(X)와 레딧(Reddit) 등 소셜 미디어에서 빠르게 확산되었습니다. 하지만 유명 팩트체크 웹사이트 스놉스(Snopes)가 해당 이미지를 신스ID로 확인한 결과, 구글이 AI 생성 이미지에 삽입하는 워터마크가 발견되어 조작된 사진임이 밝혀졌습니다.
신스ID는 2025년 구글 I/O 개발자 컨퍼런스에서 처음 공개된 기술로, AI가 생성한 이미지에 육안으로는 보이지 않는 디지털 워터마크를 삽입합니다. 이 워터마크는 스크린샷 등 이미지 변형에도 불구하고 원본 이미지를 추적할 수 있도록 설계되어 있습니다. 구글의 제미니(Gemini) 모델은 2025년부터 신스ID 워터마크를 포함하고 있으며, 오픈AI(OpenAI)도 2026년 5월부터 악의적인 이미지 생성에 대응하기 위한 노력의 일환으로 이 프로그램에 참여했습니다. 사용자는 제미니 모델에 직접 문의하거나 오픈AI의 공개 이미지 검증 도구를 통해 이미지의 워터마크 유무를 확인할 수 있습니다.
이번 사례는 딥페이크 기술이 초래하는 사회적 혼란 속에서 AI 기반 탐지 기술의 중요성을 다시 한번 일깨워줍니다. 특히 정치인의 건강과 같은 민감한 정보가 허위 이미지로 조작되어 확산될 경우, 대중의 신뢰를 훼손하고 사회적 불안을 야기할 수 있습니다. 신스ID와 같은 워터마크 기술은 AI 생성 콘텐츠의 투명성을 높이고, 팩트체크 기관이 허위 정보를 신속하게 식별하여 확산을 막는 데 필수적인 도구로 자리매김할 것으로 기대됩니다. 다만, 이 기술은 이미지 생성 도구가 프로그램에 적극적으로 참여할 때만 효과를 발휘한다는 한계가 있어, 모든 AI 생성 이미지에 적용되기 위해서는 더 광범위한 업계의 협력이 필요합니다.