터미널 사용에 익숙하지 않은 사용자도 AI를 쉽게 활용할 수 있는 새로운 데스크톱 앱 '루미챗 오프라인(LumiChats Offline)'이 출시되었습니다. 이 앱은 인터넷 연결이나 클라우드 서비스 없이도 AI 모델을 사용자의 컴퓨터에서 직접 실행할 수 있도록 설계되어, 개인 정보 보호와 데이터 보안을 극대화한 것이 특징입니다.
루미챗 오프라인은 GPT4All을 기반으로 개발된 무료 오픈소스 애플리케이션으로, 윈도우(Windows), 리눅스(Linux), macOS 등 주요 운영체제를 모두 지원합니다. 미스트랄(Mistral), 라마(LLaMA), 쿠엔(Qwen), 딥시크(DeepSeek) 등 다양한 인기 대규모 언어모델(LLM)들을 오프라인 환경에서 구동할 수 있으며, 루미챗 자체 미세조정(fine-tuned) 모델도 제공합니다. 특히 '로컬독스(LocalDocs)' 기능을 통해 사용자의 PDF 문서나 기타 로컬 파일을 AI와 연동하여 질문하고 요약하는 등 상호작용할 수 있어, 브라우저 기반 AI 챗봇의 한계를 넘어섰다는 평가를 받습니다.
이러한 오프라인 AI 솔루션은 민감한 데이터를 다루는 기업이나 개인 사용자에게 매우 유용합니다. 데이터가 외부 서버로 전송되지 않으므로 정보 유출 위험을 원천적으로 차단할 수 있으며, 인터넷 연결이 불안정한 환경에서도 AI를 활용할 수 있다는 장점이 있습니다. 또한, 클라우드 기반 AI 서비스의 구독료 부담 없이 무료로 강력한 AI 기능을 사용할 수 있게 되어, AI 기술의 접근성을 크게 높이는 데 기여할 것으로 보입니다.