인스타그램이 최근 급증하는 가짜 AI 인플루언서(AI influencer) 계정에 대한 규제를 강화하고 나섰습니다. 사용자들이 AI로 생성된 인물 프로필을 실제 사람으로 오인하는 것에 대한 불만이 커지자, 플랫폼의 신뢰도를 유지하기 위한 조치로 풀이됩니다. 앞으로 AI로 만들어진 인물이 포함된 프로필은 반드시 명확하게 표시해야 하며, 이를 위반할 경우 게시물 노출이 제한되는 등의 불이익을 받게 됩니다.
이번 조치의 핵심은 라벨링 정책 변경과 미준수 계정에 대한 페널티입니다. 인스타그램은 기존의 'AI 크리에이터(AI creator)' 라벨을 'AI 생성 프로필(AI-generated profile)'로 변경하여, 해당 프로필이 실제 인간이 아닌 AI로 만들어진 인물을 특징으로 한다는 점을 명확히 할 예정입니다. 또한, AI 생성 프로필임을 자율적으로 표시하지 않는 계정들을 찾아내 릴스(Reels) 및 탐색(Explore) 탭에서 비팔로워(non-followers)에게 추천되지 않도록 도달률을 제한할 방침입니다. 만약 잘못 플래그(flag)된 경우 프로필 소유자는 이의를 제기할 수 있습니다.
이러한 인스타그램의 움직임은 AI 기술 발전과 함께 확산되는 딥페이크(deepfake) 및 가짜 정보 문제에 대한 플랫폼의 책임감을 보여주는 중요한 신호입니다. 사용자들이 온라인에서 접하는 콘텐츠의 진위 여부를 판단하기 어려워지는 상황에서, 투명성을 확보하려는 노력은 필수적입니다. 비록 이번 조치가 AI 도구를 사용하여 생성된 일반 콘텐츠에는 적용되지 않아 'AI 슬롭(AI slop)'을 완전히 걸러내지는 못하지만, AI 생성 인물에 대한 명확한 표시는 디지털 환경의 신뢰성을 높이는 첫걸음이 될 것으로 기대됩니다. 이는 장기적으로 AI 기술의 건전한 활용을 유도하고, 사용자 경험을 개선하는 데 기여할 것입니다.