최근 인공지능(AI) 모델 개발의 새로운 흐름으로, 대규모 언어모델(LLM)들이 의도적으로 '멍청해지는' 전략을 채택하고 있습니다. 이는 모델이 방대한 세부 사실 지식을 직접 암기하기보다, 문제 해결을 위한 추론(inference) 능력에 집중하고 세부 정보는 외부 도구를 통해 실시간으로 얻는 방식입니다. 이러한 변화는 모델의 효율성을 높이고, 고질적인 환각(hallucination) 문제를 해결하는 데 기여할 것으로 기대됩니다.
실제로 GLM-5.2나 Qwen3.5 같은 최신 소형/MoE(Mixture of Experts) 모델들은 적은 활성 매개변수(active parameters)로도 수학 및 코딩 추론 성능에서 높은 점수를 기록하고 있습니다. 예를 들어, DeepSeek V4-Flash는 전체 284B 매개변수 중 토큰당 약 13B만 활성화하여 효율성을 높였습니다. 반면, 이 모델들은 도구 없이 세부 정보를 직접 회상하는 SimpleQA 같은 테스트에서는 낮은 점수를 보이거나 높은 환각률을 기록했습니다. 이는 모델 용량을 수많은 세부 정보를 저장하는 대신, 문제를 분해하고 검산하며 되돌아가는 등 재사용 가능한 추론 절차에 집중하는 전략적 선택으로 해석됩니다. 사실 지식은 빠르게 낡고 많은 저장 공간을 차지하지만, 추론 능력은 여러 문제에 반복 적용 가능하며 오래 유지되기 때문입니다.
이러한 접근 방식은 여러 중요한 의미를 가집니다. 첫째, 모델의 '지식 단절(knowledge cutoff)' 개념이 덜 중요해질 수 있습니다. 모델 학습 시점 이후의 최신 정보는 외부 검색이나 도구 호출을 통해 실시간으로 공급받을 수 있기 때문입니다. 둘째, 코딩 에이전트(coding agent)가 오래된 내부 지식 대신 현재 프로젝트의 실제 문서나 의존성을 확인하여 작업 정확도를 높일 수 있습니다. 셋째, 모델이 자체적으로 기억하는 세부 정보가 적으므로, 모르는 질문에 그럴듯한 답을 지어내기보다 검색이나 도구 호출로 확인하는 능력이 중요해져 환각 문제를 줄일 수 있습니다. 외부 출처에서 가져온 정보는 오류 발생 시 출처를 추적하고 수정하기 용이하여, 불투명한 모델 기억의 문제가 일반적인 데이터 버그처럼 관리 가능해집니다. 궁극적으로는 프런티어급 추론 능력을 훨씬 작은 로컬 모델에서도 실행할 가능성을 열어주어, AI 기술의 대중화와 접근성 향상에 기여할 수 있습니다.