최근 크롬(Chrome) 브라우저에 내장된 구글의 경량 AI 모델인 제미니 나노(Gemini Nano)를 활용하여 무료로 구동되는 로컬 AI 비서 'CheapGPT'가 등장해 주목받고 있습니다. 이 프로젝트는 사용자의 기기에서 직접 AI 추론(inference)을 수행함으로써, 클라우드 기반 AI 서비스와 달리 서버 비용 없이 AI 기능을 제공하는 새로운 접근 방식을 선보였습니다.
CheapGPT는 구글 크롬 브라우저의 최신 기능인 제미니 나노 통합을 활용합니다. 제미니 나노는 스마트폰과 같은 엣지 디바이스(edge device)에 최적화된 소형 대규모 언어모델(LLM)로, 인터넷 연결 없이도 기기 내에서 다양한 AI 작업을 처리할 수 있습니다. CheapGPT는 이러한 제미니 나노의 온디바이스(on-device) 처리 능력을 활용하여 사용자의 개인 정보가 외부 서버로 전송될 염려 없이 안전하게 AI 비서 기능을 이용할 수 있도록 설계되었습니다. 이는 특히 민감한 정보를 다루는 사용자들에게 큰 장점이 될 수 있습니다.
이러한 로컬 AI 비서의 등장은 AI 기술의 접근성과 활용성을 한 단계 끌어올릴 잠재력을 가지고 있습니다. 서버 비용 부담 없이 누구나 AI를 활용할 수 있게 되면서, 개발자들은 새로운 형태의 온디바이스 AI 애플리케이션을 구상할 수 있게 됩니다. 또한, 개인 정보 보호에 대한 우려 없이 AI 기능을 사용할 수 있다는 점은 일반 사용자들에게도 매력적인 요소로 작용하여, AI 기술의 대중화에 기여할 것으로 기대됩니다.