대규모 언어모델(LLM)이 구조적 인과 발견(structural causal discovery)을 위한 사전 인과 지식(prior causal knowledge)을 제공하는 데 점점 더 많이 활용되고 있지만, 이들의 직접적인 인과 관계 판단과 그에 대한 신뢰도를 얼마나 믿을 수 있는지는 여전히 불분명했습니다. 최근 아카이브(arXiv)에 발표된 논문은 12개의 오픈소스 명령어 미세조정(instruction-tuned) LLM을 대상으로 6가지 벤치마크 인과 그래프와 5가지 프롬프트 전략, 그리고 4가지 신뢰도 측정 방식을 활용하여 체계적인 평가를 수행했습니다.
연구 결과, LLM 기반의 인과 관계 판단은 ‘회상(recall)’에 지나치게 치우쳐 많은 거짓 양성(false-positive) 간선(edge)을 예측하는 경향을 보였습니다. 즉, 모델들이 실제보다 훨씬 더 밀집한 그래프를 생성하며, 프롬프트 전략은 이러한 과도한 예측을 해결하기보다는 정밀도-재현율(precision-recall)의 균형을 바꾸는 데 그쳤습니다. 특히 LLM은 인과적 관련성(causal relatedness)은 잘 포착하지만, 직접적인 관계(directness)나 방향(orientation)을 신뢰성 있게 식별하지 못했습니다. 간접적인 관계의 40.0%, 역방향 관계의 36.0%를 직접적인 간선으로 잘못 분류했으며, 이러한 잘못된 예측의 80% 이상에서 모델이 80% 이상의 높은 자신감을 보였습니다. 이는 LLM이 구조적으로 부정확한 예측에 대해 상당한 과신(overconfidence)을 가지고 있음을 드러냅니다.
또한, 기존의 자신감 추정 방식(예: 언어화된 자신감, 로짓 기반 자신감)은 신뢰할 수 없다는 점이 밝혀졌습니다. 로짓(logit) 기반 자신감은 정확성 여부와 무관하게 1.0에 가깝게 수렴하는 경우가 많았습니다. 반면, 여러 프롬프트 간의 일치도(cross-prompt agreement)나 여러 모델 간의 일치도(cross-model agreement)는 더 나은 평균 보정(mean calibration)과 판별력(discrimination)을 보였지만, 통계적으로 유의미한 수준은 아니었습니다. 이러한 결과는 LLM이 인과 구조의 직접적인 증거로 활용되기보다는, 외부 검증을 거친 ‘부드러운 인과 사전 지식(soft causal priors)’의 원천으로 보는 것이 더 적합하다는 점을 시사합니다.