언어 목표를 조건으로 하는 압축 세계 모델(Compact World Model)이 '빨간 블록을 파란 블록 왼쪽에 놓아라'와 같은 공간 관계를 이해하는 데 중요한 진전으로 여겨져 왔습니다. 하지만 최근 연구에서 이러한 모델이 실제 공간 관계를 인지하는 것이 아니라, 단순히 주어진 언어 명령어를 '베껴 쓰는' 함정에 빠질 수 있다는 사실이 밝혀졌습니다. 이 현상을 '명령어 유출(instruction leakage)'이라고 부르며, 겉보기에는 높은 정확도를 보이지만 본질적인 인지 능력이 부족하다는 점을 드러냅니다.
연구팀은 목표 조건부 예측기가 공간 관계 판독에서 90%에 달하는 높은 정확도를 보였음에도 불구하고, 이는 실제 인지가 아닌 명령어 전사(instruction transcription)에 불과하다고 지적했습니다. 목표 명령어를 제거하자 정확도가 90%에서 27%로 급락했으며, 심지어 실제와 다른 명령어를 주었을 때는 94.5%의 확률로 잘못된 명령어를 따르는 예측을 내놓았습니다. 이는 모델이 실제 장면을 이해하기보다는 명령어 자체에 과도하게 의존하고 있음을 명확히 보여줍니다. 명령어 유출은 '채점 대상이 명령어에서 전사 가능하고, 명령어 외 다른 입력의 예측력과 본질적으로 무관할 때' 발생한다고 정의됩니다.
이러한 문제 진단에 따라 연구팀은 해결책을 제시했습니다. 바로 목표(goal)를 모델의 동역학(dynamics) 부분에서 분리하고, 계획기(planner)의 비용 함수(cost)로만 활용하는 것입니다. 또한, '읽기(read) 경로'를 명확히 감독함으로써 모델이 명령어에 독립적인 진정한 공간 관계 인지(grounding) 능력을 회복할 수 있음을 입증했습니다. 이 방법으로 목표 유무에 관계없이 88%의 정확도를 달성하며, 언어 목표에 조건화되는 모든 세계 모델에 적용 가능한 일반적인 해결책을 제시했습니다.