최근 하이터치(Hightouch)의 연구 결과에 따르면, 신원 확인(Identity Resolution, IDR) 작업에서 저렴하고 빠른 소형 언어모델(SLM)인 제브(Jev)와 최상위 대규모 언어모델(LLM)인 클로드 오푸스(Claude Opus)를 결합하는 하이브리드 방식이 오푸스 단독 사용 시와 거의 동일한 정확도를 제공하면서도 비용은 4배 이상 절감하는 것으로 나타났습니다. 이는 고객 데이터 통합 및 분석에 필수적인 IDR의 효율성을 획기적으로 개선할 수 있는 중요한 발견입니다.
신원 확인(IDR)은 여러 데이터 소스에 흩어진 기록들을 한 명의 실제 인물과 연결하는 과정입니다. 예를 들어, 동일 인물의 구매 기록, 주소, 이메일 등을 하나의 고객 프로필로 통합하는 것이죠. 이는 고객 평생 가치(LTV) 분석, 개인화된 마케팅, 고객 관계 관리(CRM) 등 모든 고객 중심 비즈니스에 필수적인 기반 기술입니다. 하지만 이름 오타, 주소 변경, 이메일 공유 등 다양한 데이터 오류와 불일치 때문에 정확한 IDR은 매우 어렵습니다. 특히 여러 사람의 정보가 한 프로필로 잘못 통합되는 '과대 병합(over-merging)'은 치명적인 문제로, 이를 탐지하고 수정하는 데 많은 시간과 인력이 소요됩니다.
기존에는 IDR 알고리즘의 정확도를 평가하기 위해 사람이 직접 수많은 프로필 샘플을 검토해야 했습니다. 이는 시간과 비용이 많이 들고, 특히 드물게 발생하는 과대 병합을 정확히 찾아내기 위해서는 수천 개의 샘플을 검토해야 하는 비효율적인 과정이었습니다. 이번 연구는 이러한 수작업 검토를 LLM이 대체할 수 있음을 보여주며, 특히 제브(Jev)와 같은 저비용 SLM의 '자신감 점수(confidence score)'를 활용해 판단이 어려운 경우에만 오푸스(Opus)와 같은 고비용 LLM에 도움을 요청하는 방식을 통해 비용 효율성을 극대화했습니다. 이로써 IDR 시스템의 반복 주기(iteration cycle)를 단축하고 유지보수 부담을 크게 줄일 수 있게 되어, 기업들은 더욱 빠르고 정확하게 고객 데이터를 활용할 수 있을 것으로 기대됩니다.