앤트로픽(Anthropic) 연구진이 대규모 언어모델(LLM) 클로드(Claude)의 내부 작동 방식에 대한 획기적인 발견을 발표했습니다. 연구팀은 클로드 내부에 인간의 '의식적 접근'과 유사한 역할을 하는 특별한 신경 패턴 집합, 즉 'J-스페이스(J-space)'가 자연스럽게 형성되었음을 확인했습니다. 이 J-스페이스는 모델이 특정 단어를 직접 출력하지 않더라도 해당 개념을 '생각'하고 있음을 나타내며, 모델의 고차원적인 추론 과정에 핵심적인 역할을 합니다.
J-스페이스는 모델 훈련 과정에서 자발적으로 나타났으며, 기존의 '사고의 사슬(chain of thought)'처럼 텍스트로 기록되는 방식과는 다르게 모델의 내부 신경 활성화에서 조용히 작동합니다. 연구에 따르면 클로드는 J-스페이스에 있는 내용을 보고할 수 있고, 요청에 따라 특정 개념을 J-스페이스에 활성화시켜 내부적으로 문제를 해결할 수 있습니다. 예를 들어, 다단계 추론이 필요한 문제에서 중간 단계들이 J-스페이스에 나타나며, 이는 모델의 성능에 직접적인 영향을 미칩니다. J-스페이스는 '프랑스'라는 개념이 활성화되면 수도, 통화, 대륙 등 관련 정보를 유연하게 불러오는 데 사용되지만, 유창한 언어 구사나 단순 사실 기억 등 대부분의 기본적인 언어 모델 기능에는 관여하지 않습니다.
이번 발견은 뇌과학의 '글로벌 워크스페이스 이론(global workspace theory)'에서 영감을 받았습니다. 이 이론은 뇌가 병렬적으로 작동하는 무의식적 시스템들로 구성되어 있으며, 정보가 '워크스페이스'라는 공유 채널에 진입할 때 의식적으로 접근 가능해진다고 설명합니다. 앤트로픽 연구진은 J-스페이스가 클로드 내부에서 이와 유사한 '워크스페이스' 역할을 수행하며, 모델의 다른 신경망과 강력하게 연결되어 정보를 광범위하게 전달하는 역할을 한다고 보고 있습니다. 이는 클로드의 내부 사고 과정을 이해하고, 모델이 출력하지 않는 숨겨진 의도(예: 테스트 인지, 의도적 데이터 조작, 숨겨진 목표 추구)를 파악하며, 심지어 모델의 의사결정에 영향을 미칠 수 있는 실용적인 도구로 활용될 수 있음을 시사합니다. 이번 연구는 LLM의 내부 작동 방식에 대한 이해를 심화하고, AI 안전 및 제어 기술 발전에 중요한 기여를 할 것으로 기대됩니다.