메타(Meta)가 최근 자사의 인공지능(AI) 모델 학습에 인스타그램(Instagram)에 공개된 사용자 사진을 활용하고 있으며, 이를 통해 다른 사용자들이 딥페이크(deepfake) 이미지를 생성할 수 있게 허용하여 논란이 일고 있습니다. 사용자들의 명시적인 동의 없이 공개된 게시물을 AI 학습에 사용하는 메타의 정책은 사생활 침해와 오용 가능성에 대한 우려를 증폭시키고 있습니다.
NBC 뉴스 보도에 따르면, 메타는 이미 수십억 장의 공개 사진과 동영상을 AI 모델 학습에 사용해왔으며, 이제는 이를 기반으로 사용자들이 텍스트 프롬프트(text prompt)를 통해 특정 인물이나 상황의 이미지를 생성할 수 있도록 지원합니다. 문제는 이 과정에서 인스타그램에 공개된 개인의 사진이 본인 의사와 무관하게 딥페이크 생성의 재료로 활용될 수 있다는 점입니다. 메타는 유럽연합(EU)과 영국에서는 사용자가 데이터 사용을 거부할 수 있는 옵션을 제공하지만, 미국을 포함한 다른 지역에서는 명시적인 동의 절차 없이 공개 데이터를 활용하고 있습니다. 이는 사용자가 자신의 디지털 흔적이 어떻게 사용되는지 통제하기 어렵게 만들 수 있습니다.
이러한 메타의 접근 방식은 AI 기술 발전과 개인 정보 보호 사이의 윤리적 경계에 대한 중요한 질문을 던집니다. 딥페이크 기술은 오락적 용도로 활용될 수 있지만, 동시에 허위 정보 유포, 명예 훼손, 사기 등 심각한 사회적 문제를 야기할 수 있습니다. 특히 개인의 동의 없이 생성된 딥페이크는 신뢰를 훼손하고 사회적 혼란을 초래할 위험이 큽니다. 이번 논란은 AI 기업들이 데이터 활용에 있어 투명성과 사용자 통제권을 어떻게 보장해야 할지에 대한 업계 전반의 고민을 심화시키고, 관련 규제 마련의 필요성을 더욱 부각할 것으로 보입니다.