최근 발표된 연구 논문에서 시각-언어 모델(VLM)의 고질적인 문제인 '환각(hallucination)' 현상을 해결하고 모델의 설명 가능성(interpretability)을 높이는 새로운 프레임워크 'CaVe-VLM-CoT'가 제안되었습니다. VLM은 이미지를 이해하고 이에 기반한 텍스트를 생성하는 강력한 능력을 가졌지만, 때로는 시각적 사실과 일치하지 않는 유창한 답변을 내놓아 신뢰성 문제를 야기했습니다. 이 프레임워크는 이러한 한계를 극복하기 위해 설계되었습니다.
CaVe-VLM-CoT는 '추출기(Extractor)', '검색기(Retriever)', '해결사(Solver)', '인용 주입기(Citation Injector)', '검증기(Verifier)'의 5단계로 구성된 모듈형 폐쇄 루프 파이프라인을 특징으로 합니다. 특히, 기존의 사고 연쇄(Chain-of-Thought)나 검색 증강 생성(RAG) 방식이 놓쳤던 '단계별 인용 근거 제시'와 '검증 실패 시 재탐색' 기능을 강화했습니다. 예를 들어, 검증 단계에서 근거 없는 주장이 발견되면, 시스템은 구조화된 피드백을 추출기에 전달하여 필요한 정보를 다시 검색하도록 지시함으로써, 모델이 시각적 증거에 기반한 추론을 하도록 강제합니다. 연구팀은 이 프레임워크의 성능을 측정하기 위해 정확도, 인용 정밀도 및 재현율, 귀속성, 증거 기반 추론 등 23가지 구성 요소별 지표를 포함하는 종합 지표인 'CaVeScore'를 제안했습니다. CaVe-VLM-CoT는 ScienceQA 데이터셋에서 87.1%의 정확도와 56.6%의 CaVeScore를, MMMU(30개 주제) 데이터셋에서는 55.2%의 정확도와 35.7%의 CaVeScore를 달성하며, 기존 모델 대비 뛰어난 성능을 보였습니다.
이러한 접근 방식은 VLM의 신뢰성과 투명성을 크게 향상시켜, 의료 진단, 법률 분석, 과학 연구 등 높은 정확성과 설명 가능성이 요구되는 분야에서 VLM의 활용 가능성을 넓힐 것으로 기대됩니다. 또한, 모델이 왜 특정 답변을 생성했는지 명확한 근거를 제시할 수 있게 됨으로써, 사용자들은 VLM의 결과물을 더욱 신뢰하고 비판적으로 평가할 수 있게 될 것입니다. 이는 단순히 성능 개선을 넘어, AI 시스템과 인간의 상호작용 방식에 긍정적인 변화를 가져올 중요한 진전으로 평가됩니다.