메타(Meta)가 최근 자사 AI 이미지 생성 기능인 '이매진 위드 메타'(Imagine with Meta)의 운영을 잠정 중단했습니다. 이는 사용자들이 다양한 인종의 사람들을 묘사하는 이미지를 요청했을 때, AI가 비현실적이거나 심지어 역사적으로 부정확한 이미지를 생성하면서 거센 비판에 직면했기 때문입니다. 메타는 이 문제를 인지하고 있으며, 시스템을 개선하기 위한 작업을 진행 중이라고 밝혔습니다.
이번 논란은 사용자들이 '아시아인 커플이 아이를 안고 있는 모습'이나 '미국 건국의 아버지들'과 같은 특정 인종이나 역사적 인물을 포함하는 프롬프트를 입력했을 때 발생했습니다. AI는 때때로 아시아인 커플을 백인으로 묘사하거나, 미국 건국의 아버지들을 다양한 인종으로 표현하는 등 현실과 동떨어진 결과물을 내놓았습니다. 특히, 흑인이나 아시아인과 같은 소수 인종의 이미지를 생성하라는 요청에는 종종 스테레오타입에 기반한 이미지를 만들거나, 아예 생성 자체를 거부하는 경우도 있었습니다. 이러한 문제들은 AI의 편향성(bias)과 다양성(diversity) 부족에 대한 우려를 다시 한번 불러일으켰습니다.
메타의 이번 기능 중단은 AI 기술이 사회적, 문화적 맥락을 이해하고 반영하는 데 여전히 많은 한계가 있음을 보여줍니다. 특히 이미지 생성 AI의 경우, 학습 데이터에 내재된 편향이 결과물에 그대로 반영될 수 있어 더욱 신중한 접근이 필요합니다. 이번 사건은 AI 개발 기업들이 기술적 완성도뿐만 아니라 윤리적, 사회적 책임감을 가지고 AI 모델을 구축하고 배포해야 한다는 중요한 교훈을 남겼습니다. 사용자들은 AI가 단순히 이미지를 만드는 것을 넘어, 현실 세계의 복잡한 다양성을 정확하고 존중하는 방식으로 표현하기를 기대하고 있습니다.