샌프란시스코 시 당국이 애플(Apple)과 구글(Google)에 '누디파이(nudify)' 앱들을 앱 스토어에서 즉시 삭제하라고 명령했습니다. 이 앱들은 인공지능(AI) 기술을 이용해 사진 속 인물의 옷을 디지털 방식으로 제거, 비동의 성적 딥페이크(non-consensual deepfake pornography)를 생성하는 것으로 알려져 있습니다. 샌프란시스코 시 검찰은 양사가 이러한 불법 앱을 통해 수백만 달러의 수익을 올렸다고 비판하며, 캘리포니아 주법 위반에 대한 민사 처벌 가능성을 경고했습니다.
샌프란시스코 시 검찰 데이비드 치우(David Chiu)는 애플과 구글이 비동의 딥페이크 포르노 제작을 '고의로 조장'하거나 '무모하게 방조'하는 행위를 금지하는 캘리포니아 주법을 위반했다고 지적했습니다. 캘리포니아는 2025년에 이러한 자료의 제3자 조력자에 대해 피해자가 민사 소송을 제기할 수 있도록 하는 법안도 통과시켰습니다. 그럼에도 불구하고, 테크 투명성 프로젝트(Tech Transparency Project)는 지난 1월과 4월 보고서를 통해 두 회사 앱 스토어에 수십 개의 누디파이 앱이 존재하며, 이들이 결제를 통해 비동의 성적 이미지를 판매하고 있다고 경고한 바 있습니다. 치우 검사는 양사가 이러한 앱들을 사용자에게 '의도적으로 유도'했으며, AI 기반 성적 이미지 확산의 '핵심 참여자'라고 비난했습니다.
이번 명령은 단순히 개별 앱의 문제가 아니라, 플랫폼 사업자의 책임 범위와 AI 기술 오용에 대한 경각심을 높이는 중요한 계기가 될 것으로 보입니다. 비동의 딥페이크는 주로 유명인에게 발생했으나, 누디파이 앱은 누구나 공개된 사진만으로도 피해자가 될 수 있다는 점에서 심각성이 큽니다. 애플과 구글은 28일 이내에 시 당국에 연락해 조치 계획을 밝혀야 하며, 이번 사태는 AI 기술의 윤리적 사용과 플랫폼의 콘텐츠 관리 책임에 대한 사회적 논의를 더욱 가속화할 전망입니다.