최근 'nesformer' 프로젝트를 통해 약 1GB 크기의 Qwen 3.5 대규모 언어모델(LLM) 가중치 안에 닌텐도 NES(Nintendo Entertainment System) 콘솔의 핵심 요소인 6502 CPU, 2KB RAM, 카트리지 프로그램 ROM이 성공적으로 구현되었습니다. 이 프로젝트는 LLM을 단순한 텍스트 생성 도구를 넘어, 실제 컴퓨팅 장치를 시뮬레이션하는 플랫폼으로 활용할 수 있음을 보여주며 기술 커뮤니티의 주목을 받고 있습니다.
nesformer는 기존 LLM처럼 학습을 통해 가중치를 얻는 대신, 컴파일러가 NES의 6502 CPU 코어와 메모리 구조를 모델의 가중치로 직접 계산합니다. 게임 실행 시, 모델은 CPU의 실행 기록을 한 토큰씩 예측하고, 작은 호스트 프로그램이 화면 출력, 컨트롤러 입력 등 나머지 주변 장치 처리를 담당합니다. 특히 Gated DeltaNet 상태를 기계의 메모리로 활용하여 CPU 레지스터와 RAM, ROM 데이터를 저장하는 방식이 핵심입니다. 이 모델은 bf16 기준으로 933MB의 크기이며, 압축 시 3.3MB에 불과합니다. Super Mario Bros.와 같은 NROM 카트리지 게임을 재빌드 없이 실행할 수 있으며, 실제 NES 에뮬레이터와 동일한 실행 기록과 프레임을 생성하는 것이 검증되었습니다.
이러한 시도는 LLM의 잠재력을 확장하는 중요한 의미를 가집니다. LLM이 단순히 언어를 이해하고 생성하는 것을 넘어, 복잡한 논리 회로와 상태 머신을 표현하고 시뮬레이션할 수 있는 범용 컴퓨팅 플랫폼으로 진화할 가능성을 시사하기 때문입니다. 물론 현재 nesformer는 실제 NES보다 150~290배 느리며, NROM 카트리지와 일부 기능만 지원하는 한계가 있습니다. 하지만 이 프로젝트는 LLM을 활용한 새로운 형태의 가상 머신(virtual machine)이나 에뮬레이션(emulation) 기술 개발에 영감을 줄 수 있으며, 미래에는 더욱 효율적이고 강력한 LLM 기반 컴퓨팅 환경이 등장할 수도 있음을 보여줍니다.