메타(Meta)가 페이스북, 인스타그램, 메신저, 스레드 등 자사 플랫폼에 인공지능(AI)으로 생성된 아동 성 착취 이미지(CSAM)를 포함한 유료 광고 수십 건을 게재하여 논란의 중심에 섰습니다. 이 광고들은 지난 9개월간 미국, 영국 및 10여 개 유럽 국가의 수천 개 계정에 노출되었으며, 일부는 최근까지도 활성화되어 있었던 것으로 확인되었습니다. 이는 메타의 광고 검토 및 승인 시스템에 심각한 결함이 있음을 시사합니다.
테크 투명성 프로젝트(TTP) 연구진이 메타의 광고 라이브러리에서 50개 이상의 문제성 이미지 및 비디오 광고를 발견했으며, 이 중 일부는 '누디파이(nudify)' 또는 '옷 벗기기' 앱으로 연결되었습니다. TTP의 케이티 폴(Katie Paul) 이사는 “이 광고들은 이미지를 가리거나 홍보 내용을 숨기려는 어떠한 노력도 하지 않았다”며, “제3자가 올린 콘텐츠가 아니라 메타가 직접 검토하고 승인하여 광고비를 받으며 게재한 광고”임을 강조했습니다. 발견된 광고들은 작년 11월부터 8월 초 사이에 게시되었으며, 메타는 와이어드(WIRED)의 문의 이후 해당 광고들을 삭제했습니다.
메타는 “성 착취는 끔찍하며, 플랫폼에서 이를 근절하기 위해 적극적으로 노력하고 있다”고 밝히며, 대부분의 광고는 도달 범위가 미미했고 와이어드 제보 이전에 비활성화된 경우도 많았다고 해명했습니다. 또한, 문제성 광고 중 상당수는 최근 도입된 새로운 AI 탐지 기술 이전에 게시된 것이며, 시스템을 지속적으로 개선하고 있다고 덧붙였습니다. 그러나 TTP 연구진은 와이어드의 문의 이후에도 약 30개의 추가 광고를 발견했으며, 이 중 일부는 당시에도 활성화되어 사용자들에게 노출되고 있었다고 지적하여 메타의 해명에 대한 의구심을 증폭시켰습니다.
이번 사건은 AI 기술 발전과 함께 심화되는 온라인 콘텐츠 관리의 어려움을 여실히 보여줍니다. 특히 아동 성 착취물과 같은 불법적이고 유해한 콘텐츠가 AI를 통해 더욱 쉽게 생성되고 유포될 수 있다는 점에서 심각성을 더합니다. 메타와 같은 대형 플랫폼 기업들은 막대한 자원과 기술력을 보유하고 있음에도 불구하고, 자동화된 검토 시스템의 한계와 인력의 부재로 인해 이러한 콘텐츠를 효과적으로 걸러내지 못하고 있습니다.
이는 플랫폼 기업들에게 사회적 책임과 윤리적 의무를 더욱 강화해야 한다는 강력한 경고 메시지를 던집니다. 단순히 사후 조치에 그치지 않고, 사전 예방 및 탐지 시스템을 고도화하고 인적 검토를 강화하는 등 다각적인 노력이 필요합니다. 또한, AI 기술의 오용을 막기 위한 기술적, 정책적 논의와 함께 관련 법규 정비 및 국제적 공조의 중요성도 부각되고 있습니다.