대규모 언어모델(LLM)의 정보 생성 능력을 향상시키는 핵심 기술인 검색 증강 생성(RAG)이 계층적 지식 그래프(hierarchical knowledge graph)를 활용하여 새로운 진전을 보였습니다. 기존 RAG 시스템은 주로 평면적인 문서 저장소에서 정보를 검색했기에, 계층적이거나 관계형 추론이 필요한 복잡한 질문에는 한계가 있었습니다. 프라나브 야다브(Pranav Yadav)가 제안한 HG-RAG(Hierarchy-Guided RAG) 프레임워크는 이러한 문제를 해결하기 위해 지식 그래프 탐색(graph-traversal) 방식을 도입했습니다.
HG-RAG는 쿼리에서 명명된 개체(named entity)를 식별한 후, 해당 개체를 중심으로 지식 그래프를 탐색하여 구조화된 맥락을 추출합니다. 이 탐색 과정은 상위 노드(parent nodes)를 통한 상향 확장, 관련 이웃 노드(relational neighbors)를 통한 측면 확장, 그리고 필요시 하위 노드(child nodes)를 통한 하향 확장을 포함합니다. 연구진은 HG-RAG를 18개에서 800개 노드에 이르는 다양한 규모의 지식 그래프와 네 가지 유형의 쿼리(지역 사실, 계층적, 이웃, 다중 홉)에 대해 평가했습니다. 그 결과, HG-RAG는 기존의 밀집 검색(dense retrieval) 방식보다 계층적, 관계형, 다중 홉 추론 작업에서 일관되게 우수한 성능을 보였으며, 환각(hallucination) 현상을 줄이고 지역적 일관성(locality coherence)을 유지하는 데 성공했습니다.
이러한 발전은 LLM이 복잡하고 구조화된 지식에 기반한 질문에 더욱 정확하고 신뢰할 수 있는 답변을 생성할 수 있음을 의미합니다. 특히 법률, 의료, 과학 연구와 같이 정밀한 정보와 관계형 추론이 필수적인 분야에서 LLM의 활용 가치를 크게 높일 수 있습니다. HG-RAG는 단순히 정보를 찾아오는 것을 넘어, 정보 간의 관계와 계층 구조를 이해하고 활용함으로써 LLM이 단순한 사실 나열을 넘어선 깊이 있는 통찰을 제공하도록 돕는 중요한 단계가 될 것입니다.