메타(Meta)가 자사의 소셜 미디어 플랫폼인 인스타그램(Instagram)과 페이스북(Facebook)에 새롭게 선보였던 AI 이미지 생성 기능을 출시 며칠 만에 중단했습니다. 이 기능은 사용자가 텍스트 프롬프트(text prompt)를 입력하면 AI가 이미지를 만들어주는 방식으로, 인스타그램 스토리(Stories)와 페이스북 릴스(Reels) 등에서 배경을 생성하는 데 활용될 예정이었습니다. 하지만 출시 직후부터 유명인이나 공공 인물과 관련된 부적절한 이미지를 생성한다는 비판에 직면하며 빠르게 철회 수순을 밟게 되었습니다.
이번 논란은 특히 팝스타 테일러 스위프트(Taylor Swift)와 같은 유명인의 이미지를 사용자가 의도하지 않았음에도 불구하고 선정적으로 변형하거나, 실제 인물과 혼동될 수 있는 이미지를 만들어내는 문제로 불거졌습니다. 사용자들은 AI가 생성한 이미지가 현실과 구별하기 어렵고, 허위 정보 유포나 명예 훼손에 악용될 수 있다는 우려를 제기했습니다. 메타는 이러한 비판을 수용하여 해당 기능을 즉시 비활성화했으며, 기술 개선과 안전성 확보를 위한 추가적인 검토에 들어갔다고 밝혔습니다.
메타의 이번 AI 기능 철회는 생성형 AI(generative AI) 기술이 가져올 수 있는 잠재적 위험성을 다시 한번 상기시키는 중요한 사례입니다. AI 기술이 빠르게 발전하면서 사용자에게 혁신적인 경험을 제공할 수 있지만, 동시에 윤리적 문제, 사생활 침해, 허위 정보 생성 등 예상치 못한 부작용을 초래할 수 있음을 보여줍니다. 따라서 AI 개발 기업들은 기술 혁신만큼이나 책임감 있는 개발과 배포, 그리고 사용자 피드백을 통한 지속적인 개선 노력이 필수적이라는 교훈을 얻게 되었습니다. 이는 AI 기술이 사회에 미치는 영향을 최소화하고 긍정적인 방향으로 발전시키기 위한 업계 전반의 노력이 필요함을 시사합니다.