온라인 식료품 쇼핑의 급증과 함께 사용자들의 복잡한 구매 행동을 정확히 예측하는 추천 시스템의 중요성이 커지고 있습니다. 기존의 품목(item) 단위 추천 방식은 방대한 상품 수와 다양한 사용자 의도를 모두 담기 어렵다는 확장성 및 정확도 문제를 안고 있었습니다. 이러한 한계를 극복하기 위해, 최근 연구에서는 대규모 언어모델(LLM)을 활용하여 식료품 카테고리(category) 추천의 새로운 가능성을 제시했습니다.
새롭게 발표된 'GrocLM'은 실제 전자상거래 환경에 최적화된 식료품 카테고리 추천을 위한 미세조정(fine-tuned) 언어모델입니다. GrocLM은 두 단계의 LoRA(Low-Rank Adaptation) 기반 훈련 전략을 사용하여 사용자의 반복 구매(rebuying) 패턴을 모델 파라미터에 직접 인코딩합니다. 이는 단순히 프롬프트(prompt)에 의존하는 방식보다 훨씬 효과적으로 주기적인 구매 행동을 학습하게 합니다. 또한, 미리 정의된 카테고리 공간 내에서 유효하고 제어 가능한 출력을 보장하기 위해 트라이(trie) 기반의 제약 디코딩(constrained decoding) 메커니즘을 도입했습니다. 이 기술은 모델이 생성하는 카테고리가 실제 존재하는 유효한 카테고리 범위 내에 있도록 보장합니다.
GrocLM은 자체 운영 데이터와 공개 벤치마크 데이터셋 모두에서 기존의 강력한 기준 모델들을 뛰어넘는 성능을 보였습니다. 특히, 실제 운영 환경에서의 재고 보충(restocking) 작업에 적용했을 때, GrocLM은 노출당 장바구니 추가(cart-adds per impression)율을 7.5% 상대적으로 향상시키는 인상적인 결과를 달성했습니다. 동시에 모든 카테고리를 동시에 생성하여 효율적인 추론(inference) 속도를 유지했습니다. 이러한 결과는 대규모 언어모델을 구조화된 추천 시스템에 통합하는 것이 얼마나 효과적이고 실용적인지를 명확히 보여주며, 온라인 식료품 쇼핑 경험을 한층 더 개선할 수 있는 중요한 발전으로 평가됩니다.