메타(Meta)가 최근 인스타그램(Instagram)에 도입했던 인공지능(AI) 이미지 생성 기능을 전면 중단했습니다. 이 기능은 사용자가 공개 인스타그램 계정을 태그하는 것만으로 해당 계정의 콘텐츠를 기반으로 AI 이미지를 만들 수 있도록 설계되었으나, 발표 직후부터 심각한 비판에 직면했습니다.
문제의 기능은 메타의 새로운 뮤즈 이미지 AI(Muse Image AI) 모델의 일부로, 지난 화요일에 발표되었습니다. 메타는 이 기능이 유용한 창작 도구가 될 것이며, 사람들이 자신의 공개 콘텐츠가 AI 생성에 활용될지 여부를 통제할 수 있다고 설명했지만, 실제로는 계정 소유자의 명시적인 동의 없이도 콘텐츠가 사용될 수 있다는 점에서 큰 논란을 낳았습니다. 특히, 성 착취(sextortion) 및 사기 등 악용될 가능성이 크다는 지적이 제기되었고, 미국 배우 조합(Screen Actors Guild)은 회원들에게 해당 기능에서 탈퇴할 것을 권고하기도 했습니다. 메타는 논란이 커지자 결국 “이 기능이 의도와 달리 비판을 받았다”며 전면 중단을 결정했습니다.
이번 사태는 AI 기술의 윤리적 사용과 개인 정보 보호에 대한 사회적 논의가 얼마나 중요한지를 다시 한번 보여줍니다. 기업이 새로운 AI 기능을 도입할 때, 기술적 혁신만큼이나 사용자 동의, 데이터 활용 투명성, 그리고 잠재적 오용 가능성에 대한 신중한 접근이 필수적임을 시사합니다. 특히, 사용자 콘텐츠를 활용하는 AI 서비스의 경우, 명확한 옵트아웃(opt-out) 방식보다는 초기 단계부터 사용자에게 충분한 통제권을 부여하고 동의를 구하는 방식이 필요하다는 교훈을 남겼습니다. 이는 향후 AI 서비스 개발 및 출시에 있어 중요한 선례가 될 것으로 보입니다.