메타(Meta)가 300억 개 매개변수(parameter)를 가진 새로운 온디바이스 AI 에이전트 모델 '뮤즈 글리머(Muse Glimmer)'를 아파치 2.0 라이선스로 오픈소스화했습니다. 이 모델은 맥(Mac)이나 PC의 단일 소비자용 GPU에서도 구동될 수 있을 만큼 작고 효율적으로 설계되어, 인터넷 연결 없이도 로컬 환경에서 다양한 AI 에이전트 기능을 수행할 수 있습니다. 이는 클라우드 의존적인 기존 대규모 언어모델(LLM)의 한계를 극복하고, 언제 어디서든 AI를 활용할 수 있는 새로운 가능성을 열었다는 점에서 주목받고 있습니다.
뮤즈 글리머는 장기적인 작업 실행, 정밀한 도구 사용(tool use), 다중 모드(multimodal) 이해, 긴 컨텍스트 기억, 그리고 지시 따르기 등 에이전트가 필요한 핵심 역량에 최적화되어 있습니다. 특히, 스케줄 관리, 메시지 초안 작성, 파일 정리 등 개인화된 작업을 위해 설계되었으며, 실패 복구(failure recovery) 기능과 100개 이상의 언어 지원도 특징입니다. 메타는 이 모델을 4비트(bit) 양자화(quantization) 기술을 통해 20GB 미만으로 압축하여 24GB 또는 32GB GPU에서도 원활하게 작동하도록 최적화했으며, 추측 디코딩(speculative decoding)을 통해 응답 속도를 크게 향상시켰습니다.
뮤즈 글리머의 출시는 AI 에이전트의 활용 범위를 개인 기기 수준으로 확장하여 사용자 프라이버시를 강화하고, 인터넷 연결이 불안정한 환경에서도 AI 서비스를 이용할 수 있게 한다는 점에서 큰 의미가 있습니다. 개발자들은 허깅 페이스(Hugging Face)에서 공개된 모델 가중치(weights)와 개발자 문서를 활용하여 자신만의 로컬 AI 에이전트를 구축할 수 있으며, llama.cpp, MLX, ExecuTorch 등 기존 개발 도구와의 통합도 지원될 예정입니다. 이는 AI 개발의 민주화를 가속화하고, 온디바이스 AI 시장의 성장을 촉진하는 중요한 전환점이 될 것으로 보입니다.