마이크로소프트의 그림판(Paint)과 사진(Photos) 앱이 인공지능(AI)으로 생성된 이미지에 눈에 보이지 않는 워터마크를 은밀하게 삽입하고 있다는 사실이 한 보안 연구원의 역설계 분석을 통해 드러났습니다. 이 워터마크는 서버에서 발급받은 고유 식별자(GUID) 형태로, 이미지 픽셀 내에 숨겨져 있어 일반적인 방법으로는 감지하기 어렵습니다. 이는 사용자가 AI 이미지를 로컬에서 생성하더라도 그 출처를 추적할 수 있는 메커니즘이 작동하고 있음을 시사합니다.
연구에 따르면, 그림판 앱은 로컬 AI 모델을 사용하여 이미지를 생성하지만, 사용자의 프롬프트(명령어)는 원격 서버로 전송되어 검열 과정을 거칩니다. 이 서버는 검열된 프롬프트와 함께 16바이트 길이의 GUID를 앱으로 반환하며, 이 GUID가 최종 이미지에 보이지 않는 워터마크로 삽입됩니다. 특히, 이 워터마크는 사용자가 설정할 수 있는 '가시적 워터마크'와는 별개로 작동하며, 워터마크 삽입에 실패할 경우 이미지 생성이 아예 오류로 처리될 정도로 중요하게 다뤄집니다. 이는 MS가 AI 생성 이미지의 무결성과 출처를 보장하려는 의도가 강함을 보여줍니다.
이러한 보이지 않는 워터마크 기술은 AI 생성 콘텐츠의 확산 속에서 원본성(provenance)과 책임 소재를 명확히 하려는 업계의 노력을 반영합니다. 특히 딥페이크(deepfake)와 같은 악용 사례가 증가하면서, C2PA(콘텐츠 출처 및 진위 확인을 위한 연합)와 같은 표준을 통해 AI 생성 콘텐츠에 메타데이터를 포함하려는 움직임이 활발합니다. MS의 이번 구현은 이러한 흐름의 일환으로 해석될 수 있으며, 향후 AI 생성 콘텐츠의 신뢰성을 높이는 데 기여할 수 있습니다. 그러나 사용자 입장에서는 자신의 창작물에 대한 통제권과 프라이버시 문제에 대한 논의를 촉발할 수도 있습니다.