최근 ‘Tynx’라는 새로운 ONNX 런타임이 공개되어 AI 개발 커뮤니티의 주목을 받고 있습니다. 이 런타임은 20MB 미만의 매우 작은 용량으로 ONNX(Open Neural Network Exchange) 모델의 추론(inference)뿐만 아니라 학습(training)까지 지원하는 것이 특징입니다. 특히 파이토치(PyTorch)와 유사한 API를 제공하여 기존 파이토치 사용자들에게 높은 접근성을 제공합니다.
Tynx는 Rust 언어로 개발되었으며, Burn/CubeCL과 wgpu 기술을 활용해 GPU 가속을 지원합니다. 덕분에 리눅스, 윈도우, macOS 등 다양한 운영체제에서 엔비디아(NVIDIA), AMD, 인텔(Intel), 애플(Apple) GPU를 별도의 CUDA나 ROCm 같은 벤더별 컴퓨팅 툴킷 설치 없이 사용할 수 있습니다. 이는 개발 환경 설정의 복잡성을 크게 줄여주며, 웹어셈블리(WebAssembly)로 컴파일되어 브라우저에서도 실행 가능한 잠재력을 보여줍니다. 또한, 기존 파이토치에서 내보낸 ONNX 모델을 Tynx로 불러와 미세조정(fine-tuning)할 수 있어, 배포 후에도 모델을 지속적으로 학습시킬 수 있는 유연성을 제공합니다.
이러한 Tynx의 등장은 온디바이스 AI(On-device AI) 및 엣지 컴퓨팅(Edge Computing) 환경에서 AI 모델 학습의 새로운 가능성을 열어줍니다. 경량화된 런타임으로 인해 제한된 자원을 가진 기기에서도 모델을 직접 학습시키거나 미세조정할 수 있게 되어, 개인화된 AI 경험이나 보안이 중요한 환경에서의 학습에 유리합니다. 예를 들어, 사용자 기기에서 직접 학습되는 강화 학습(Reinforcement Learning) 정책이나 방화벽 내부에서의 미세조정 등이 가능해집니다. 이는 AI 모델 배포 및 운영 방식에 있어 더 큰 유연성과 효율성을 제공하며, 개발자들이 더욱 다양한 환경에서 AI 솔루션을 구현할 수 있도록 도울 것입니다.