음식 및 식료품 배달 플랫폼 도어대시(DoorDash)가 대규모 언어모델(LLM)의 한계를 극복한 새로운 AI 쇼핑 비서를 선보였습니다. 이 비서는 단순히 LLM에만 의존하는 것이 아니라, 검색 증강 생성(RAG) 방식과 도어대시가 자체 구축한 지식 그래프를 통합하여 사용자에게 더욱 정확하고 신뢰할 수 있는 정보를 제공합니다. 이는 LLM이 종종 사실과 다른 정보를 생성하는 '환각(hallucination)' 문제를 해결하기 위한 전략적인 접근입니다.
도어대시의 AI 쇼핑 비서는 사용자가 특정 요리나 식료품에 대해 질문하면, 먼저 자체 지식 그래프에서 관련 정보를 검색합니다. 이 지식 그래프는 도어대시 플랫폼 내의 방대한 레스토랑, 메뉴, 식료품점, 제품 데이터로 구성되어 있습니다. 검색된 정보는 LLM에 입력되어 사용자 질문에 대한 답변을 생성하는 데 활용됩니다. 이러한 RAG(Retrieval Augmented Generation) 방식은 LLM이 최신이거나 특정 도메인에 특화된 정보를 학습하지 못해 발생하는 오류를 줄이고, 실제 데이터에 기반한 답변을 제공하도록 돕습니다. 예를 들어, 특정 알레르기가 있는 사용자가 먹을 수 있는 메뉴를 추천해달라고 하면, 지식 그래프에서 해당 정보를 찾아 LLM이 정확한 답변을 생성하도록 지원하는 식입니다.
이러한 하이브리드 접근 방식은 사용자 경험을 크게 향상시키고, 궁극적으로는 주문 전환율을 높이는 데 기여할 것으로 기대됩니다. 사용자는 AI 비서를 통해 마치 실제 점원과 대화하는 것처럼 개인화된 추천과 상세한 정보를 얻을 수 있으며, 이는 구매 결정에 긍정적인 영향을 미칩니다. LLM의 강력한 언어 이해 및 생성 능력과 도어대시의 방대한 실제 데이터가 결합되어, 단순한 챗봇을 넘어 실질적인 가치를 제공하는 쇼핑 도우미로 자리매김할 것입니다. 이는 AI 기술을 실제 비즈니스 문제 해결에 적용하는 모범 사례로 평가받고 있습니다.