최근 공개된 '리틀러너(LittleLearner)' 프로젝트는 대규모 언어모델(LLM)이 사전 학습 데이터의 범위에 얼마나 강력하게 제약받는지에 대한 흥미로운 통찰을 제공합니다. 이 연구는 오직 미국 초등학교 5학년(K-5) 교육과정 수준의 데이터로만 학습된 LLM을 개발하여, 모델의 지식 경계를 명확히 설정하고 그 한계를 실험적으로 탐구했습니다.
리틀러너는 '파인웹-에듀(FineWeb-Edu)' 코퍼스에서 K-5 공통 핵심 기준(Common Core standards)에 맞춰 880억 개의 토큰(token)을 추출하여 '리틀커리큘럼(LittleCurriculum)'이라는 데이터셋을 구축했습니다. 이 데이터셋은 5학년 이상의 개념, 사실, 어휘를 명시적으로 배제했습니다. 0.6B, 1.3B, 5B의 세 가지 규모로 리틀러너 모델이 처음부터 학습되었으며, 비교를 위해 필터링되지 않은 데이터로 학습된 대조군 모델도 함께 개발되었습니다. 실험 결과, 모델의 크기를 키우거나, 지도 미세조정(SFT) 및 GRPO(Guided Reinforcement Learning from Pre-training Objectives) 같은 후처리, 또는 인컨텍스트 학습(in-context learning)을 적용해도 K-5 교육과정 범위를 넘어선 새로운 능력을 유의미하게 향상시키지 못했습니다. 이는 사전 학습 데이터 필터링이 모델의 유효한 능력 상한선을 설정한다는 점을 명확히 보여줍니다.
이 연구는 LLM의 지식 습득 방식에 대한 근본적인 질문을 던지며, 교육 과학 분야에 중요한 함의를 가집니다. 리틀러너는 명확히 정의된 지식 경계를 가지고 있어, 강화 학습(RL)이 새로운 능력을 창출할 수 있는지, 또는 특정 개념이 모델에 어떻게 학습되는지(예: 음수 개념 도입 시 학습 효율성, 기억력, 간섭 현상 측정) 등을 정밀하게 연구할 수 있는 통제된 환경을 제공합니다. 나아가, 모델과 아동 학습자의 학습 과정을 비교하여 분수 학습이나 문제 해결에서의 유사점과 차이점을 탐구하는 등 교육학 연구에도 활용될 수 있습니다. 이는 LLM이 단순히 방대한 데이터를 암기하는 것을 넘어, 특정 지식 체계를 어떻게 내재화하고 확장하는지에 대한 이해를 심화하는 데 기여할 것입니다.