온라인에서 인공지능(AI)이 생성한 콘텐츠를 피하기란 거의 불가능해졌습니다. 유튜브, 인스타그램, 틱톡 등 주요 플랫폼들은 지난 1년간 AI 생성 이미지, 영상, 음악을 인간 창작물과 구별하기 위해 콘텐츠 인증 노력을 강화하고, 자동으로 라벨을 적용하기 시작했습니다. 하지만 이러한 라벨링 노력에도 불구하고, 사용자가 원치 않는 AI 콘텐츠를 효과적으로 걸러낼 수 있는 필터 기능은 여전히 부재합니다.
현재 메타(Meta), 구글(Google), 틱톡(TikTok), 스포티파이(Spotify) 등 어떤 주요 플랫폼도 AI 콘텐츠 필터 도입 계획을 밝히지 않고 있습니다. 데비안아트(DeviantArt)와 핀터레스트(Pinterest) 같은 일부 플랫폼은 AI 콘텐츠를 '억제(Suppress)'하거나 '덜 보여주는' 옵션을 제공하지만, 실제로는 효과가 미미하다는 평가입니다. 이는 AI 콘텐츠가 얼마나 광범위하게 퍼져 있는지, 그리고 플랫폼들이 이를 얼마나 제대로 식별하지 못하는지를 역설적으로 보여줍니다. 인스타그램 책임자 아담 모세리(Adam Mosseri)는 AI 콘텐츠 증가로 '진정성이 희귀한 자원'이 되고 있다고 말했으며, 구글 CEO 순다르 피차이(Sundar Pichai) 역시 'AI 쓰레기(AI slop)가 많다'고 인정했지만, 사용자에게 '적응하라'고 말할 뿐 필터 제공에는 소극적입니다.
플랫폼들이 AI 콘텐츠 필터를 제공하지 않는 것은 여러 가지 의미를 내포합니다. 첫째, 필터가 제대로 작동하지 않을 경우, 그들이 내세운 AI 라벨링 시스템의 비효율성이 명백히 드러날 수 있습니다. 이는 규제 당국과 비판자들의 압력을 피하기 위한 '보여주기식' 해결책이라는 비판을 받을 수 있습니다. 둘째, AI 콘텐츠가 플랫폼의 참여율이나 광고 수익에 기여하는 부분이 있다면, 이를 적극적으로 걸러내는 기능을 제공하는 것을 꺼릴 수 있습니다. 결국, AI 콘텐츠 필터의 부재는 온라인 환경의 진정성 문제를 해결하려는 플랫폼들의 의지가 부족하거나, 혹은 그들 스스로도 감당하기 어려운 AI 콘텐츠의 홍수 속에서 현실을 외면하고 있다는 방증일 수 있습니다.