인터넷 연결 없이도 여행 정보를 제공하는 온디바이스(on-device) 인공지능(AI) 모델 '핀치(Finch)'가 공개되어 주목받고 있습니다. 0.8B(8억 개) 파라미터(매개변수)의 이 소형 언어모델(LLM)은 오픈스트리트맵(OpenStreetMap) 기반의 지도 관련 질문에 대해 구글의 제미니 3.8 플래시(Gemini 3.8 Flash)와 동일한 수준의 정확도를 기록하며, 오프라인 환경에서의 강력한 잠재력을 입증했습니다.
핀치는 'Ask Maps Basic'이라는 자체 평가 지표에서 100점 만점에 83점을 기록, 제미니 3.8 플래시와 동점을 이루었으며, GPT-6 루나(Luna)의 82점보다도 높은 점수를 받았습니다. 특히, 클라우드 기반 모델들이 답변의 출처를 명확히 밝히기 어려운 반면, 핀치는 모든 정보의 출처를 명시하는 '근거 제시(grounding)' 부문에서 79점으로 압도적인 성능을 보여 신뢰도를 높였습니다. 이는 핀치가 방대한 지리 데이터를 온디바이스에서 색인(index)하여 활용하기 때문에 가능한 결과입니다. 개발자는 Qwen3.5-0.8B 모델에 지도 관련 데이터를 미세조정(fine-tuning)하고 25단계의 강화 학습(RL)을 적용하여 핀치를 개발했습니다.
이러한 온디바이스 AI의 등장은 인터넷 연결이 불안정한 해외여행이나 오지 탐험 시 사용자에게 혁신적인 경험을 제공할 것입니다. 또한, 개인 위치 정보와 같은 민감한 데이터를 클라우드에 전송할 필요 없이 기기 내에서 처리함으로써 프라이버시 보호에도 유리합니다. 핀치와 같은 소형 온디바이스 AI 모델은 앞으로 스마트폰, 웨어러블 기기 등 다양한 엣지 디바이스(edge device)에서 AI 기능을 확장하는 중요한 기술적 기반이 될 것으로 예상됩니다.