애플 실리콘 맥(Mac)에서 구동되는 macOS 가상머신(VM)의 대규모 언어모델(LLM) 추론 성능이 획기적으로 개선되었습니다. 기존에는 애플의 가상화 프레임워크(Virtualization.framework)가 제공하는 가상 GPU가 실제 하드웨어보다 보수적인 메탈(Metal) 기능을 보고하여, llama.cpp와 같은 LLM 추론 엔진이 최적화되지 않은 느린 경로를 선택하는 문제가 있었습니다. 하지만 최근 게스트 OS 프로세스 내에 호환성 계층을 삽입하는 방식으로 이 문제를 우회하여, LLM 추론 속도를 최대 16.36배까지 가속하는 데 성공했습니다.
이 호환성 계층은 가상 GPU가 보고하는 메탈 기능 응답을 수정하여, 실제 애플 실리콘 칩이 지원하는 최신 메탈 기능을 LLM 추론 엔진이 인식하도록 만듭니다. 구체적으로는 supportsFamily: 응답을 Apple family 9까지 허용하고, 최대 스레드 그룹(threadgroup) 메모리를 32KB에서 64KB로 늘려 SIMD-그룹 리덕션(reduction) 및 행렬(matrix) 연산, bfloat16 데이터 형식 경로를 활성화합니다. M1 Ultra 칩에서 진행된 벤치마크 결과, TinyLlama 1.1B 모델은 프롬프트 처리와 토큰 생성 속도가 각각 11.08배, 16.36배 빨라졌으며, Gemma 4 12B 모델은 7.20배, 14.54배, Muse Glimmer 30B 모델은 7.55배, 8.87배 향상되었습니다. 이는 물리 GPU를 직접 할당하는 방식이 아니라, 기존 가상 GPU 경로의 기능 응답만 변경하여 얻은 결과입니다.
이번 가속화는 애플 실리콘 맥 사용자들이 VM 환경에서도 LLM을 훨씬 효율적으로 활용할 수 있게 되었다는 점에서 큰 의미를 가집니다. 특히 개발자나 연구자들이 macOS VM에서 LLM을 미세조정(fine-tuning)하거나 추론하는 데 있어 성능 제약이 크게 완화될 것으로 기대됩니다. 다만, 이 기술은 사설 메탈 구현에 의존하는 실험적 연구 릴리스이며, M1 Ultra와 특정 타호(Tahoe) 환경에서만 검증되었으므로, 다른 애플 실리콘 세대, macOS 버전, 메탈 API 버전별로 추가 검증이 필요합니다. 또한, MLX-LM과 같은 일부 프레임워크는 기본 VM에서도 이미 빠른 성능을 보여 큰 차이가 없었습니다.