AI 기업 사이오닉에이아이(Syonic AI)가 자사의 검색 임베딩(embedding) 모델인 'comsat-embed'가 한국어와 일본어 글로벌 검색 벤치마크에서 1위를 차지했다고 발표했습니다. 임베딩 모델은 텍스트의 의미를 벡터(수치)로 변환하여, 사용자의 질문과 관련된 문서를 정확하게 찾아내는 핵심 기술입니다. 이는 최근 기업들이 대규모 언어모델(LLM)을 활용할 때 정보의 정확성을 높이는 검색증강생성(RAG)의 기반이 되는 중요한 요소입니다.
사이오닉에이아이의 한국어 모델 'comsat-embed-ko-8b-preview'는 글로벌 임베딩 평가 지표인 MTEB의 한국어 검색 9개 데이터셋 평가에서 평균 NDCG@10 79.30점을 기록하며, 알리바바의 'Qwen3-Embedding-8B'(78.25점)와 마이크로소프트의 'Harrier-OSS-v1-27B'(76.69점)를 앞섰습니다. NDCG@10은 검색 결과 상위 10개가 얼마나 관련성 높고 적절한 순서로 배치되었는지를 측정하는 지표입니다. 일본어 모델 'comsat-embed-ja-8b-preview' 또한 11개 데이터셋 평가에서 평균 81.33점으로 최고 성능을 보였으며, 3억 파라미터(parameter) 경량 모델도 4B 이하 모델 중 1위를 기록했습니다.
사이오닉에이아이는 단순히 높은 점수보다 실제 검색 환경을 반영한 학습 방식에 주목합니다. 실제 검색에서는 짧은 키워드 질문부터 여러 문단을 종합해야 하는 복잡한 질문까지 다양하며, 정답이 문서의 어느 위치에든 있을 수 있습니다. 이를 위해 다양한 출처의 문서에 여러 형태의 질문을 합성하고, 질문과 문서의 관계를 1대 다, 다대 1 구조로 학습시켰습니다. 또한, 정답과 유사하지만 오답인 문서를 골라 학습하는 하드 네거티브 마이닝(hard negative mining)과 고성능 교사 모델(teacher model)의 검색 순위를 배우는 지식 증류(knowledge distillation) 기법도 적용하여 특정 데이터셋에 편중되지 않고 전반적인 성능을 고르게 개선했습니다. 이번 모델은 언어, 도메인, 질문 형태에 관계없이 안정적인 검색을 목표로 하는 'EUREKA' 프로젝트의 첫 공개 결과물이며, 한국어 및 일본어 프리뷰 버전은 허깅페이스(Hugging Face)에 공개되어 있습니다.
이러한 고성능 임베딩 모델의 등장은 대규모 언어모델(LLM) 기반 서비스의 품질을 한 단계 끌어올릴 잠재력을 가집니다. 특히 한국어와 일본어처럼 특정 언어에 특화된 고품질 임베딩 모델은 해당 언어권 사용자들에게 더욱 정확하고 신뢰할 수 있는 AI 검색 및 RAG 경험을 제공할 것입니다. 이는 기업들이 자체 데이터를 활용하여 LLM의 환각(hallucination) 현상을 줄이고, 특정 도메인에 최적화된 AI 서비스를 구축하는 데 필수적인 요소로 작용할 것입니다. 결과적으로, 사용자들은 더욱 정확하고 맥락에 맞는 정보를 얻게 되며, 기업들은 AI 서비스의 신뢰도를 높여 경쟁 우위를 확보할 수 있게 됩니다.