넷플릭스가 수천 개의 수작업 피처(feature)와 복잡한 아키텍처로 인해 새로운 기능 추가 비용이 높았던 기존 추천 시스템의 한계를 극복하고자, 대규모 언어모델(LLM) 기반의 새로운 추천 시스템 'GenRec'을 도입했습니다. 이는 넷플릭스가 콘텐츠 추천 분야에서 LLM의 잠재력을 적극적으로 활용하려는 전략적 움직임으로 풀이됩니다.
GenRec의 핵심은 사용자 이력, 아이템 메타데이터, 맥락 정보를 자연어 프롬프트로 변환(Verbalization)하는 것입니다. 이렇게 변환된 데이터는 넷플릭스 전용 데이터로 미세조정(fine-tuning)된 파운데이션 LLM과 콘텐츠 카탈로그 인식 점수 산정 헤드(Scoring Head)를 결합하여 추천 순위를 생성합니다. 특히, 토큰 예산 제약을 해결하기 위해 고신호 상호작용은 유지하고 저신호 이벤트를 압축하는 '컨텍스트 엔지니어링'을 적용하여 품질 저하 없이 비용을 절감했습니다. 또한, 장기적인 회원 만족도와 비즈니스 목표를 반영한 보상 가중 랭킹 목적 함수를 사용하여 단순 클릭을 넘어선 최적화를 달성했습니다. 넷플릭스는 vLLM 기반의 프리필 전용(prefill-only) 추론 방식을 활용해 서빙 비용까지 최적화했습니다.
약 10%의 트래픽을 대상으로 4주간 진행된 대규모 A/B 테스트에서 GenRec은 기존 프로덕션 순위 모델 대비 훨씬 적은 학습 데이터와 입력 신호만으로도 단기 및 장기 온라인 지표에서 통계적으로 유의미한 개선을 기록했습니다. 이는 LLM이 복잡한 추천 로직을 단순화하면서도 성능을 향상시킬 수 있음을 입증한 사례입니다. 넷플릭스의 GenRec 도입은 엔터테인먼트 산업 전반에 걸쳐 LLM 기반 개인화 서비스의 가능성을 보여주며, 사용자 경험을 혁신하고 운영 효율성을 높이는 중요한 전환점이 될 것으로 보입니다.