48년 전 출시된 개인용 컴퓨터 코모도어 64(Commodore 64)에서 손글씨 숫자 인식 데이터셋인 MNIST에 대해 99.5%에 달하는 놀라운 정확도를 달성한 이진 신경망(BNN, Binarized Neural Network)이 공개되어 화제입니다. 이는 곱셈 명령어조차 없는 1MHz 미만의 구형 8비트 CPU인 MOS 6502에서 이뤄낸 성과로, 현대 AI 가속기 없이도 극한의 최적화를 통해 고성능 AI를 구현할 수 있음을 보여줍니다.
이 프로젝트는 핀란드의 야르노 헤이키넨(Jarno Heikkinen)이 주도했으며, 64KB RAM과 0.985248MHz(PAL) 클럭의 코모도어 64에서 구동됩니다. 그는 곱셈-누산(MAC) 연산을 XNOR 및 팝카운트(popcount) 연산으로 대체하는 BNN의 특성을 활용했습니다. 특히, 6502 어셈블리 언어로 자체 수정(self-modifying) 코드, 쌍으로 묶인 룩업 테이블(lookup table), 8/16비트 분할 누산 등 극한의 최적화 기법을 적용하여 평균 0.653초의 빠른 추론(inference) 시간을 달성했습니다. 또한, 신뢰도 기반의 조기 종료(early-exit) 및 테스트 시간 증강(test-time augmentation)을 결합한 캐스케이드(cascade) 모델을 설계하여, 대부분의 이미지는 0.544초 만에 처리하고 어려운 이미지에만 더 긴 경로를 적용해 전체 정확도를 유지하면서도 평균 처리 속도를 크게 단축했습니다.
이번 성과는 단순히 오래된 컴퓨터의 성능을 과시하는 것을 넘어, 자원 제약이 심한 환경에서도 효율적인 AI 모델 설계와 최적화된 구현이 얼마나 중요한지 보여줍니다. 임베디드 시스템, 저전력 장치, 또는 엣지 컴퓨팅(edge computing) 환경에서 AI를 구동해야 하는 경우, 이진 신경망과 같은 경량화된 모델 아키텍처, 그리고 하드웨어에 최적화된 소프트웨어 구현 전략이 핵심적인 역할을 할 수 있음을 시사합니다. 이는 제한된 컴퓨팅 자원으로도 높은 정확도와 실시간에 가까운 응답 속도를 요구하는 다양한 산업 분야에 영감을 줄 수 있는 중요한 연구 결과입니다.