대규모 언어모델(LLM)이 여러 단계에 걸쳐 정확한 중간 상태(intermediate state)를 유지하며 복잡한 작업을 수행할 수 있다는 연구 결과가 나왔습니다. 기존 LLM 평가는 장기 의존 작업(long-horizon task)에 취약하다는 인식이 있었는데, 이번 연구는 LLM이 196단계에 이르는 깊은 종속적 도구 호출(dependent tool calls)을 통해 MD5 암호화 해시를 성공적으로 계산하며 이러한 한계를 극복할 수 있음을 보여주었습니다.
연구진은 LLM의 상태 추적(state tracking) 능력을 순수하게 평가하기 위해, MD5 해시 계산이라는 명확한 목표를 설정하고 4개의 32비트 워드(a,b,c,d)를 모델의 컨텍스트(context) 내에서 다음 호출로 전달하도록 했습니다. 특히, gpt-oss-120b 모델을 활용하여 196번의 도구 호출을 거치면서도 전체 상태를 유지하고 올바른 해시 값을 반환하는 데 성공했습니다. 이 과정에서 모델 자체의 추론 과정을 컨텍스트에 유지하고, 워커(worker) LLM의 계산 오류를 다수결 투표(voting) 방식으로 보정하는 두 가지 핵심 요소가 성공에 결정적인 영향을 미쳤습니다.
이번 연구는 LLM이 단순히 지시를 해석하는 것을 넘어, 여러 단계에 걸쳐 정확한 중간 상태를 관리하며 복잡한 논리적 흐름을 따라갈 수 있음을 입증했다는 점에서 중요합니다. 이는 에이전트(agent) LLM이 실제 환경에서 더 신뢰성 높은 복합 작업을 수행할 수 있는 기반을 마련하며, 오류가 누적되어 전체 시스템이 실패하는 기존의 문제점을 해결할 가능성을 제시합니다. 향후 LLM 기반의 자율 에이전트 개발 및 복잡한 비즈니스 프로세스 자동화에 큰 영향을 미칠 것으로 기대됩니다.