대규모 언어모델(LLM)의 접근성이 높아지면서 인터넷 전반에 걸쳐 스팸과 봇 콘텐츠가 급증하고 있습니다. 이러한 현상은 특히 소셜 미디어 플랫폼에서 심각한 문제로 대두되었는데, 레딧(Reddit) 역시 예외는 아니었습니다. 이에 레딧은 역설적이게도 LLM으로 생성된 스팸 문제를 해결하기 위해 자체적으로 LLM 기반의 새로운 도구를 개발했다고 발표했습니다.
레딧에 따르면, 이 새로운 LLM 기반 도구는 하루에 약 25,000개의 새로운 스팸 게시물과 댓글을 탐지하고 차단하며, 이를 통해 사용자들의 스팸 노출을 하루 2,300만 건 줄이는 효과를 거두고 있습니다. 특히 레딧은 기존 시스템이 놓치던 '고도로 미묘하고 조직적인 가짜 행동 및 인위적인 과장 패턴'을 LLM이 효과적으로 잡아낸다고 강조했습니다. 실제로 지난 1월부터 3월까지 레딧 사용자들의 스팸 노출이 이전 3개월 대비 20% 감소했다고 합니다.
이러한 움직임은 AI 시대에 플랫폼들이 직면한 새로운 현실을 보여줍니다. AI가 콘텐츠 생성의 문턱을 낮추면서 악의적인 스팸 활동 또한 더욱 정교해지고 대량화되었기 때문입니다. 레딧의 사례는 AI가 야기한 문제를 다시 AI로 해결하려는 '이열치열(以熱治熱)' 전략이 불가피해졌음을 시사합니다. 이는 유튜브(YouTube), 메타(Meta), 인스타그램(Instagram) 등 다른 플랫폼들이 AI 생성 콘텐츠의 공개 여부를 사용자에게 맡기거나, 틱톡(TikTok)처럼 AI 콘텐츠 노출량을 조절하는 기능을 제공하는 것과 더불어, 콘텐츠 관리의 새로운 방향성을 제시합니다. 다만, 전문가들은 AI 기반 콘텐츠 관리 역시 인간의 개입과 병행될 때 가장 효과적이라는 점을 지속적으로 강조하고 있습니다.