음식 배달 플랫폼 도어대시(DoorDash)가 인공지능(AI) 기반의 콘텐츠 관리(moderation) 시스템을 혁신하고 있습니다. 급증하는 사용자 생성 콘텐츠(UGC)를 효과적으로 관리하기 위해, 대규모 언어모델(LLM)과 기존의 머신러닝 분류기(classifier)를 결합한 하이브리드 아키텍처를 도입했습니다. 이는 플랫폼 내에서 부적절하거나 유해한 콘텐츠를 더욱 신속하고 정확하게 식별하고 처리하여 사용자 경험과 안전을 개선하기 위한 전략입니다.
도어대시의 새로운 시스템은 먼저 경량화된 분류기를 사용하여 대량의 콘텐츠를 1차적으로 필터링합니다. 이 분류기는 특정 유형의 유해 콘텐츠를 빠르게 걸러내는 데 특화되어 있으며, 처리 비용이 낮다는 장점이 있습니다. 이후, 1차 필터를 통과한 콘텐츠 중 복잡하거나 미묘한 맥락을 가진 것들은 대규모 언어모델(LLM)로 전달됩니다. LLM은 인간과 유사한 수준의 언어 이해 능력을 바탕으로 미묘한 뉘앙스나 복합적인 의미를 파악하여 최종적인 판단을 내립니다. 이러한 이중 접근 방식은 효율성과 정확성을 동시에 확보하는 데 중점을 둡니다.
이러한 하이브리드 AI 콘텐츠 관리 시스템은 빠르게 성장하는 온라인 플랫폼들에게 중요한 시사점을 제공합니다. 사용자 생성 콘텐츠의 양이 폭발적으로 증가하는 상황에서, 모든 콘텐츠를 사람이 직접 검토하는 것은 불가능하며, 단일 AI 모델만으로는 한계가 있습니다. 도어대시의 사례는 비용 효율적인 분류기와 강력한 LLM의 장점을 결합하여 대규모 콘텐츠 관리 문제를 해결하는 효과적인 방법을 제시하며, 이는 플랫폼의 신뢰도를 높이고 사용자 이탈을 방지하는 데 필수적인 요소로 작용할 것입니다.