최근 한 개발자가 PC의 가장 기본적인 시작점인 부트 섹터(boot sector)에 직접 언어모델(language model)을 심어 가상의 부팅 로그를 생성하는 '부트GPT(bootGPT)' 프로젝트를 공개해 화제입니다. 이 모델은 단 512바이트의 마스터 부트 레코드(MBR) 어셈블리어(assembly) 코드와 11.5KB의 모델 가중치(weights)만으로, 운영체제(OS)나 C 런타임(runtime) 없이 16비트 리얼 모드(real mode)에서 구동됩니다. PC가 켜지자마자 존재하지 않는 하드웨어(hardware)에 대한 리눅스(Linux) 부팅 로그를 '꿈꾸듯' 생성하는 모습은 기술 커뮤니티에서 큰 관심을 받고 있습니다.
부트GPT는 386 프로세서 환경을 가정하며, 8자(char)의 컨텍스트(context)와 하나의 은닉층(hidden layer)을 가진 단순한 신경망(neural network) 구조를 사용합니다. 모델 학습에는 3MB 분량의 가짜 'dmesg' 로그 데이터가 활용되었으며, 추론(inference) 과정은 정수 8비트(int8) 양자화(quantization)와 전력 효율적인 연산(power-of-two scales)을 통해 최소한의 자원으로 실행됩니다. 특히, 모델의 모든 추론 로직과 바이오스(BIOS) 연동 기능이 510바이트의 MBR에 들어가고, 가중치와 어휘(vocab) 테이블은 다음 섹터(sector)에 저장되는 방식으로 극도의 최적화를 달성했습니다. 이는 QEMU와 같은 가상 환경뿐만 아니라 실제 USB 스틱에 구워 바이오스 기반 PC에서도 부팅 가능합니다.
이 프로젝트는 단순히 기술적 호기심을 넘어, 극도로 제한된 컴퓨팅 자원 환경에서 인공지능(AI) 모델을 구동하는 새로운 가능성을 제시합니다. 과거 512바이트 부트 섹터에 체스 게임이나 운영체제(OS)를 넣었던 '부트 섹터 장르(boot sector genre)'의 연장선상에 있지만, 언어모델을 적용했다는 점에서 차별화됩니다. 기존에는 라마2(Llama2) 같은 대규모 모델을 부팅 시 구동하는 시도도 있었으나, 부트GPT는 모델 자체를 MBR에 내장하고 특정 작업(부팅 로그 생성)에 특화된 초소형 모델을 구현함으로써 '크기 최적화'의 극단을 보여줍니다. 이는 임베디드 시스템(embedded system), 구형 하드웨어, 또는 자원 제약이 큰 특수 환경에서 AI를 활용하는 방안에 대한 영감을 줄 수 있습니다.