최근 '타이니월드포머(tinyworldformer)'라는 혁신적인 프로젝트가 라즈베리 파이 피코 2 W(Raspberry Pi Pico 2 W)와 같은 초저사양 마이크로컨트롤러에서 게임을 생성하고 플레이하는 인공지능(AI) 모델을 성공적으로 구현했습니다. 이 프로젝트는 단 두 개의 작은 신경망, 즉 월드 모델(World Model)과 행동 신경망(Action Network)을 사용하여 게임의 다음 프레임과 보상을 예측하고, 이를 바탕으로 에이전트가 다음 행동을 선택하도록 합니다. 특히, 이 모델은 학습된 게임 엔진을 보드 자체에서 구동하며, 심지어 사람이 직접 조작하는 것도 가능해 주목받고 있습니다.
타이니월드포머는 브레이크아웃(Breakout), 둠 라이트(Doom-lite), 플래피 버드(Flappy Bird), 퐁(Pong), 팩맨 라이트(Pac-Man lite) 등 다양한 고전 게임을 지원합니다. 월드 모델은 현재 화면과 행동을 입력받아 다음 화면과 보상을 예측하고, 행동 신경망은 예측된 화면을 보고 다음 행동을 결정하는 방식으로 작동합니다. 특히, 루프형 트랜스포머(Looping Transformer) 구조를 통해 같은 블록의 가중치(weight)를 반복 사용하고 int8 양자화(quantization)를 적용하여 메모리 사용량을 극적으로 줄였습니다. 그 결과, 가장 큰 팩맨 모델도 학습기와 디스플레이 드라이버를 포함해 플래시 600KB, RAM 460KB만을 사용하여 라즈베리 파이 피코 2 W에서 구동될 수 있습니다. 이 프로젝트는 또한 재생 버퍼(replay buffer)나 배치(batch) 없이 한 단계씩 학습하는 스트리밍 강화학습(Streaming Reinforcement Learning)을 적용하여, 사전 학습된 월드 모델 안에서 행동 에이전트(Action Agent)를 보드 자체에서 처음부터 학습시킬 수 있는 독특한 기능을 제공합니다.
이 기술은 저전력, 저비용 임베디드 장치에서 복잡한 AI 모델을 구동할 수 있는 새로운 가능성을 제시합니다. 기존에는 고성능 컴퓨팅 자원이 필수적이었던 AI 모델 학습 및 추론(inference)을 마이크로컨트롤러 수준에서 구현함으로써, 엣지 AI(Edge AI) 분야에 큰 영향을 미 미칠 수 있습니다. 예를 들어, 스마트 센서, 웨어러블 기기, 소형 로봇 등 다양한 IoT(사물 인터넷) 장치에 지능적인 기능을 탑재하는 데 활용될 수 있습니다. 또한, 게임 개발 분야에서는 경량화된 AI 기반 게임 엔진을 통해 새로운 형태의 상호작용과 개인화된 게임 경험을 제공할 수 있을 것으로 기대됩니다. 개발자들에게는 제한된 자원 속에서 효율적인 AI 모델을 설계하고 최적화하는 새로운 도전과 기회를 제공할 것입니다.