인스타그램이 AI로 생성된 인물을 프로필에 사용하면서 이를 명시하지 않는 계정의 노출을 제한하는 새로운 정책을 발표했습니다. 기존의 'AI 크리에이터(AI creator)' 라벨은 'AI 생성 프로필(AI-generated profile)'로 명칭이 변경되며, 이는 프로필 속 인물이 AI로 생성되었거나 AI를 통해 실질적으로 만들어졌음을 사용자에게 더 명확하게 전달하기 위함입니다. 이 정책에 따라 AI 생성 프로필임을 제대로 밝히지 않은 계정은 노출이 줄어들 수 있습니다.
이번 조치는 AI 인플루언서(AI influencer)가 소셜 미디어 플랫폼 전반에 걸쳐 확산되면서 AI 생성 콘텐츠에 대한 사용자들의 불만이 커지는 상황에 대한 대응입니다. 예를 들어, 게이 데이팅 앱 '구스(Goose)'는 AI로 생성된 남성 인플루언서 네트워크가 인스타그램에서 앱을 홍보한 사실이 밝혀져 논란이 되기도 했습니다. 또한, 건강 및 웰니스(wellness) 분야에서는 AI 생성 의사, 치료사, 웰니스 전문가들이 보충제를 홍보하거나 건강 관련 주장을 펼치는 사례가 뉴욕타임스(New York Times) 보도를 통해 드러나 우려를 낳았습니다. 인스타그램은 사진 편집, 캡션 다듬기, 그래픽 제작 등 일반적인 AI 활용에는 이 라벨을 요구하지 않으며, 오직 프로필 속 인물이 AI로 생성되었을 때만 적용됩니다.
이러한 변화는 사용자들이 실제 사람처럼 보이는 프로필을 접했다가 나중에 AI로 생성된 인물임을 알게 되었을 때 느끼는 불만과 혼란을 해소하려는 노력의 일환입니다. 인스타그램은 사용자들이 프로필에 AI 생성 인물이 등장할 때 이를 알기를 원한다는 점을 강조했습니다. 이번 정책은 플랫폼의 투명성을 높이고 사용자 신뢰를 회복하는 데 기여할 것으로 보입니다. 최근 메타(Meta)는 다른 사람의 초상을 이용해 이미지를 생성하는 AI 도구에 대한 사용자 반발로 해당 기능을 제거했으며, 페이스북(Facebook)과 인스타그램이 청소년에게 미치는 영향에 대한 소송 합의의 일환으로 청소년 사용 제한 조치를 도입하는 등 사용자 보호와 관련된 여러 변화를 시도하고 있습니다.