Base Compute가 클라우드 의존성 없이 맥(macOS)에서 인공지능(AI)을 직접 실행할 수 있는 새로운 앱 '로컬(Local)'을 선보였습니다. 이 앱은 사용자 기기의 하드웨어를 분석해 최적화된 AI 모델을 추천하고, PDF 요약, 코딩 지원, 회의록 작성 등 다양한 AI 기능을 무료로 제공합니다. 클라우드 AI 사용 시 발생하는 개인 정보 유출 우려와 토큰 비용 부담을 해소하는 데 초점을 맞추고 있습니다.
'로컬'은 사용자의 맥에 내장된 애플 실리콘 칩과 메모리 용량을 파악하여 가장 적합한 대규모 언어모델(LLM)을 자동으로 선택합니다. 8GB 램의 맥북 에어부터 128GB 이상의 맥 스튜디오까지, 각 기기 성능에 맞춰 Qwen, Llama, Gemma, Mistral, Phi, DeepSeek 등 다양한 오픈소스 모델을 구동할 수 있습니다. 특히 자체 개발한 추론 엔진 'BaseRT'를 통해 다른 로컬 AI 앱보다 최대 5.4배 빠른 성능을 제공하며, 모든 데이터 처리가 기기 내에서 이뤄져 개인 정보 유출 걱정 없이 사용할 수 있습니다. 파일 채팅, 코딩 프로젝트 지원, 회의 내용 녹취 및 요약, 심지어 오피스 모드를 통해 한 대의 고성능 맥에서 AI 서버를 구축하여 사무실 내 다른 기기들과 공유하는 기능도 제공합니다.
이러한 '로컬' 앱의 출시는 개인 정보 보호와 비용 효율성을 중시하는 사용자들에게 매력적인 대안이 될 것으로 보입니다. 클라우드 기반 AI 서비스의 구독료나 토큰 사용료에 부담을 느끼거나, 민감한 데이터를 외부 서버에 전송하는 것을 꺼리는 기업 및 개인 사용자들에게 특히 유용합니다. 또한, 인터넷 연결 없이 오프라인 환경에서도 AI를 활용할 수 있어, 네트워크 접근이 제한적인 환경에서도 생산성을 유지할 수 있다는 장점이 있습니다. 이는 AI 기술의 접근성을 높이고, 사용자가 자신의 데이터를 온전히 통제하며 AI를 활용할 수 있는 새로운 패러다임을 제시합니다.