대규모 언어모델(LLM)의 정보 검색 능력을 향상시키는 RAG(Retrieval Augmented Generation, 검색 증강 생성) 방식이 복잡한 질문에는 한계를 보인다는 지적이 제기되고 있습니다. 기존 RAG는 문서를 잘게 쪼개(청크) 벡터 검색을 통해 관련 조각을 찾아 LLM에 제공하는데, 이 과정에서 조각 간의 맥락과 관계가 단절되어 여러 문서를 종합해야 하는 '멀티홉(multi-hop)' 질문에 취약하다는 문제점이 있습니다.
최근 발표된 논문은 이러한 한계를 극복하기 위해 검색을 단순한 '조각 꺼내기'가 아닌 '추론(Reasoning)' 과정으로 접근하는 'LLM 위키' 방식을 제안합니다. 이 방식은 원문서를 양방향 링크가 걸린 마크다운(Markdown) 위키 페이지로 변환하고, 에이전트가 검색(search), 읽기(read), 링크 따라가기(link)의 세 가지 도구를 활용해 위키를 탐색하며 답을 찾아나갑니다. 특히, 위키의 구조적/의미적 오류를 스스로 고치는 '에러 북(Error Book)'과 시간이 지남에 따라 위키 자체를 개선하는 '자가 진화' 기능도 포함되어 있습니다. 벤치마크 결과, LLM 위키는 세 가지 멀티홉 QA 벤치마크에서 기존 모델 대비 2.0~8.1 F1 점수 향상을 보였으며, 특히 여러 문서를 엮는 질문에서 강점을 드러냈습니다. 순회(에이전트의 탐색) 기능이 위키 구조나 오류 교정보다 훨씬 더 중요한 요소로 작용한다는 점도 밝혀졌습니다.
이 연구는 LLM이 단순한 정보 검색을 넘어 복잡한 추론 능력을 갖추도록 돕는 새로운 방향을 제시합니다. 기존 RAG의 한계를 명확히 보여주고, 정보의 맥락과 관계를 보존하는 위키 구조와 에이전트의 능동적인 탐색이 얼마나 중요한지 실증했습니다. 이는 LLM 기반의 질의응답 시스템, 지식 관리 시스템, 나아가 에이전트 기반 AI의 발전에도 중요한 시사점을 제공합니다. 특히, 복잡한 전문 지식이나 방대한 사내 문서를 다루는 기업들에게 더욱 정확하고 신뢰할 수 있는 정보 검색 솔루션을 제공할 잠재력을 가지고 있습니다.