대규모 언어모델(LLM)이 복잡한 문제를 해결할 때 사용하는 연쇄 사고(Chain-of-Thought, CoT) 추론 과정에서, 각 단계별로 얼마나 많은 '생각'을 하는지 측정하는 새로운 방법론이 공개되었습니다. 기존의 LLM 해석 방법들은 주로 최종 결과에 의존하거나 전체 추론 과정을 하나의 척도로만 평가하여, 개별 추론 단계에서 모델이 들이는 계산 노력의 깊이를 파악하기 어려웠습니다. 이러한 한계를 극복하기 위해, 연구진은 '단계별 추론 에너지(Step-Aware Reasoning Energy, SARE)'라는 기하학적 프레임워크를 제안했습니다.
SARE는 트랜스포머(transformer) 모델의 인접 레이어(layer) 간 토큰(token) 은닉 상태(hidden states)의 그램 행렬(Gram matrices) 사이에서 중심 커널 정렬(Centered Kernel Alignment, CKA)을 측정하여 개별 CoT 단계의 계산 노력을 정량화합니다. 이는 토큰 간의 관계 구조를 포착하며, 추론 과정을 잠재적 의미 상태(latent semantic states) 간의 전환으로 모델링하여 에너지 변화를 의미론적 진행과 연결합니다. 6가지 추론 벤치마크와 3가지 공개 LLM에 적용한 결과, 추론 에너지가 단계별로 매우 불균일하게 분포하며, 기존의 전체 추론 과정 측정 방식으로는 알 수 없었던 '상(phase-like)' 전환을 보인다는 사실을 발견했습니다. 특히, 잘못된 추론 경로에서는 중요한 추론 접합점(critical reasoning junctions)에서 체계적으로 낮은 에너지를 보였습니다.
이러한 SARE 기반의 특징들은 출력 기반의 신뢰도 기준과 비교했을 때 대부분의 설정에서 같거나 더 나은 성능을 보여주며, LLM의 내부 기하학적 역학이 표면적인 신호 이상의 예측 정보를 담고 있음을 시사합니다. 이는 LLM이 단순히 텍스트를 생성하는 것을 넘어, 문제 해결을 위해 내부적으로 어떤 과정을 거치는지에 대한 이해를 심화시킵니다. 앞으로 SARE와 같은 해석 방법론은 LLM의 오류 원인을 진단하고, 모델의 신뢰성을 높이며, 궁극적으로는 더욱 강력하고 투명한 인공지능 시스템을 개발하는 데 중요한 기반이 될 것입니다. 특히, 특정 도메인에 특화된 LLM의 성능을 최적화하고 디버깅하는 데 유용하게 활용될 수 있습니다.