인도에서 인공지능(AI) 딥페이크 기술이 무슬림 여성을 겨냥한 허위 이미지 유포에 악용되면서 심각한 사회적 위협으로 부상하고 있습니다. 실제 인물과 구별하기 어려울 정도로 정교하게 조작된 가짜 이미지들이 소셜 미디어를 통해 확산되며, 피해자들은 극심한 정신적 고통과 명예 훼손에 시달리고 있습니다. 이는 AI 기술이 특정 집단에 대한 혐오와 차별을 조장하는 무기로 활용될 수 있음을 여실히 보여주는 사례입니다.
알자지라 보도에 따르면, 최근 인도에서는 무슬림 여성의 얼굴을 합성한 음란물이 온라인에 유포되는 사건이 빈번하게 발생하고 있습니다. 가해자들은 AI 이미지 생성 도구를 이용해 피해자들의 사진을 조작하고, 이를 익명으로 퍼뜨려 피해자들의 삶을 파괴하고 있습니다. 특히 이러한 공격은 인도 내 종교적 긴장이 고조되는 상황에서 무슬림 공동체에 대한 차별과 폭력을 부추기는 도구로 사용될 수 있다는 점에서 우려가 커지고 있습니다. 피해자들은 법적 대응의 어려움과 사회적 낙인에 대한 두려움으로 이중고를 겪고 있습니다.
이러한 현상은 AI 기술의 발전이 가져올 수 있는 어두운 단면을 명확히 보여줍니다. 딥페이크 기술은 엔터테인먼트나 교육 등 긍정적인 용도로 활용될 잠재력이 크지만, 동시에 악의적인 목적으로 사용될 경우 개인의 삶과 사회 전체에 심각한 해악을 끼칠 수 있습니다. 특히 특정 소수 집단을 겨냥한 혐오 범죄에 AI가 동원된다는 점은 기술 개발자와 정책 입안자들에게 윤리적 책임과 규제의 필요성에 대한 중요한 질문을 던지고 있습니다. 기술의 오용을 막기 위한 강력한 법적, 기술적 장치 마련이 시급하며, 시민들의 미디어 리터러시(media literacy) 교육 강화 또한 필수적입니다.