틱톡이 크리에이터의 동의를 기반으로 인공지능(AI)이 생성한 유사 이미지 콘텐츠를 탐지하고 신고할 수 있는 도구를 테스트하기 시작했습니다. 이 기능은 소셜 미디어 컨설턴트 맷 나바라(Matt Navarra)에 의해 처음 포착되었으며, 현재 미국 내 일부 크리에이터를 대상으로 시험 운영되고 있습니다. 이는 크리에이터의 초상권 보호와 AI 딥페이크(deepfake) 기술 오용 방지에 대한 플랫폼의 노력을 보여줍니다.
이 도구를 사용하려는 크리에이터는 먼저 주미오(Jumio)라는 회사를 통해 신원을 확인해야 합니다. 실시간 셀카 스캔과 신분증 확인 절차를 거치지만, 틱톡 측은 신분증 정보를 보관하지 않으며, 얼굴 정보는 유사성 매칭과 무단 사용 식별에만 활용된다고 밝혔습니다. 신원 확인이 완료되면 틱톡 시스템이 크리에이터의 유사 이미지를 사용한 AI 생성 콘텐츠를 스캔하고, 크리에이터는 탐지된 내용을 검토하여 무단 게시물이나 계정을 신고할 수 있습니다. 이는 유튜브(YouTube)가 모든 성인 사용자에게 유사한 도구를 제공하고 있는 것과 궤를 같이 합니다.
이러한 AI 유사 이미지 탐지 도구의 도입은 크리에이터 경제(creator economy)에서 초상권 보호의 중요성이 커지고 있음을 시사합니다. AI 기술 발전으로 개인의 얼굴이나 목소리를 모방한 딥페이크 콘텐츠 제작이 쉬워지면서, 크리에이터들은 자신의 이미지가 동의 없이 사용되거나 악용될 위험에 노출되어 왔습니다. 틱톡의 이번 시도는 플랫폼이 크리에이터의 권리를 보호하고 신뢰할 수 있는 콘텐츠 환경을 조성하려는 의지를 보여주며, 향후 AI 기술의 윤리적 사용에 대한 논의를 더욱 활발하게 만들 것으로 예상됩니다.