최근 챗GPT(ChatGPT)와 같은 대규모 언어모델(LLM) 서비스들이 광고를 도입하고 사용자 데이터를 활용하는 움직임을 보이면서, 개인 정보 보호에 대한 우려가 커지고 있습니다. 이러한 배경 속에서 사용자의 프라이버시를 최우선으로 하는 새로운 AI 클라이언트 'ivx/ai 챗'이 등장해 주목받고 있습니다. 이 서비스는 백엔드, 계정, 분석 도구, 원격 측정(telemetry) 없이 순전히 브라우저 내에서 작동하며, 사용자의 대화 내용과 API 키가 외부로 전송되지 않고 로컬에만 저장됩니다.
ivx/ai 챗은 사용자가 직접 AI 모델 제공업체에 연결하거나, 로컬에서 실행되는 추론(inference) 엔진에 연결하여 사용할 수 있습니다. 특히 웹LLM(WebLLM)을 통한 브라우저 내 로컬 추론도 지원하여 인터넷 연결 없이도 AI를 활용할 수 있는 유연성을 제공합니다. 맥OS(macOS)에서는 브루(brew)를 통해 쉽게 설치할 수 있으며, 윈도우(Windows) 및 리눅스(Linux)용 설치 파일도 제공됩니다. 간결하고 직관적인 사용자 인터페이스(UI)를 갖추고 있어 누구나 쉽게 접근할 수 있도록 설계되었습니다.
이러한 개인 정보 보호 중심의 AI 클라이언트는 AI 기술의 발전과 함께 제기되는 데이터 주권 문제를 해결하는 중요한 대안이 될 수 있습니다. 사용자가 자신의 데이터를 완벽하게 통제하면서도 최신 AI 기술의 혜택을 누릴 수 있게 함으로써, AI 서비스의 신뢰도를 높이고 더 넓은 사용자층을 확보하는 데 기여할 것입니다. 특히 민감한 정보를 다루는 전문직 종사자나 개인 정보 보호에 관심이 많은 사용자들에게 매력적인 선택지가 될 것으로 보입니다. 향후 다양한 클라우드 서비스와의 동기화 및 도구(Tools) 지원 계획도 있어, 개인화된 AI 활용 경험을 더욱 확장할 잠재력을 가지고 있습니다.