인공지능(AI)이 생성하는 가짜뉴스, 특히 '생성 엔진 최적화(GEO)'를 통해 검색 시스템에 체계적으로 노출되는 악의적인 콘텐츠는 정보 생태계를 위협하고 거대 언어모델(LLM)의 추론마저 오염시키고 있습니다. 이러한 문제에 대응하기 위해 새로운 계층적이고 설명 가능한 주장 검증 프레임워크인 '증거의 나무(ToE: Tree of Evidence)'가 개발되었습니다.
ToE는 각 주장을 동적으로 확장하는 논증 트리로 모델링하여, 강화 학습 기반의 다중 출처 검색 에이전트, 증거 평가 에이전트, 그리고 논증 트리 통합 알고리즘을 결합합니다. 이 프레임워크는 주장을 반복적으로 분해하고, 관련 증거를 검색하며, 설명 가능한 증거 체인을 통해 검증하는 과정을 거칩니다. 다수의 데이터셋과 다양한 LLM 백본을 활용한 실험 결과, ToE는 경쟁적인 기준선 대비 4%에서 최대 24%포인트(p)까지 향상된 성능을 보였으며, 특히 악의적으로 오염된 입력에 대해서는 더욱 두드러진 개선을 나타냈습니다.
이러한 ToE의 등장은 AI 시대의 정보 신뢰성 문제를 해결하는 데 중요한 진전을 의미합니다. 특히 AI가 생성한 가짜뉴스가 LLM의 판단을 흐리게 하는 상황에서, ToE는 더 견고하고 설명 가능한 사실 확인 메커니즘을 제공하여 정보의 정확성을 높일 수 있습니다. 이는 뉴스 기관, 소셜 미디어 플랫폼, 그리고 일반 사용자 모두에게 신뢰할 수 있는 정보 환경을 조성하는 데 기여할 것으로 기대됩니다.