최근 '글라우크스(Glaux)'라는 새로운 도구가 공개되어, 허깅 페이스(Hugging Face) 커뮤니티의 ONNX 모델을 웹 브라우저에서 직접 실행할 수 있게 되었습니다. 이는 서버를 거치지 않고 사용자 기기 내에서 인공지능(AI) 추론(inference)을 수행하는 방식으로, AI 모델 활용의 접근성을 크게 높일 것으로 기대됩니다.
글라우크스는 허깅 페이스의 다양한 오픈소스 모델들을 웹어셈블리(WebAssembly)와 ONNX 런타임(ONNX Runtime) 기술을 활용해 브라우저 환경에 최적화합니다. 이를 통해 사용자는 별도의 설치나 서버 연결 없이 웹 페이지에서 AI 기능을 바로 이용할 수 있으며, 개발자들은 백엔드 인프라 구축 및 유지보수 비용을 절감할 수 있습니다. 특히, 사용자 데이터가 외부 서버로 전송되지 않아 개인 정보 보호 측면에서도 유리합니다.
이러한 브라우저 기반 AI 실행은 AI 애플리케이션 개발에 새로운 지평을 열고 있습니다. 개발자들은 더 가볍고 빠르게 AI 기능을 웹 서비스에 통합할 수 있게 되며, 사용자들은 더욱 안전하고 즉각적인 AI 경험을 누릴 수 있습니다. 이는 AI 모델의 대중화와 개인화된 AI 서비스 확산에 중요한 전환점이 될 수 있습니다.