엔비디아(NVIDIA)의 무료 오픈소스 대규모 언어모델(LLM) API를 윈도우 운영체제에서 더욱 편리하게 사용할 수 있는 데스크톱 클라이언트 'NvChat'이 등장했습니다. 기존에는 엔비디아의 build.nvidia.com 웹 플레이그라운드를 통해 모델에 접근해야 했지만, NvChat은 단일 실행 파일(.exe) 형태로 제공되어 챗GPT나 클로드(Claude)와 같은 데스크톱 앱처럼 직관적인 사용자 경험을 제공합니다.
NvChat은 엔비디아의 API를 활용해 100개 이상의 사용 가능한 모델 목록을 실시간으로 불러와 검색 및 선택할 수 있습니다. 특히, 응답이 완료될 때까지 기다릴 필요 없이 실시간 스트리밍 방식으로 마크다운(Markdown) 렌더링을 지원하며, 표나 구문 강조된 코드 블록까지 정확하게 표시합니다. 딥시크(DeepSeek-R1)와 같이 추론(reasoning) 과정을 외부에 노출하는 모델의 경우, 그 과정을 시각적으로 확인할 수 있는 기능도 포함되어 있습니다. 사용을 위해서는 엔비디아 계정으로 로그인 후 build.nvidia.com에서 무료 API 키를 발급받아 NvChat 설정에 입력하기만 하면 됩니다. 이 앱은 MIT 라이선스로 배포되는 무료 소프트웨어이며, 윈도우 x64 환경에서만 작동합니다.
이러한 데스크톱 클라이언트의 등장은 엔비디아가 제공하는 강력한 오픈소스 LLM 생태계의 접근성을 크게 향상시킬 것으로 보입니다. 개발자나 일반 사용자 모두 웹 인터페이스의 제약 없이 다양한 최신 LLM을 손쉽게 테스트하고 활용할 수 있게 되어, 새로운 애플리케이션 개발이나 개인 생산성 향상에 기여할 수 있습니다. 다만, 엔비디아 측의 무료 티어 요청 한도가 존재하며, 코드 서명이 없어 첫 실행 시 윈도우 스마트스크린(SmartScreen) 경고가 나타날 수 있다는 점은 유의해야 합니다.