AI 모델 개발자와 기업들을 위한 새로운 서버 솔루션 'RAW'가 등장했습니다. 이 서비스는 AWS와 같은 기존 클라우드 제공업체와 달리, AI 워크로드에 최적화된 전용 CPU 및 GPU 서버를 훨씬 저렴한 가격에 제공하며, 100% API 기반으로 단 3초 만에 서버 배포가 가능하다고 주장합니다. 복잡한 콘솔 없이 간단한 API 호출만으로 실제 하드웨어를 프로비저닝하고, CUDA가 설치된 리눅스 환경과 루트(root) 접근 권한을 즉시 제공하는 것이 핵심입니다.
RAW는 특히 AI 추론(inference), 학습(training), 미세조정(fine-tuning) 작업에 특화되어 있습니다. vLLM, Ollama, PyTorch, CUDA 등 AI 스택에 필요한 모든 것을 지원하며, Llama, Mistral 같은 대규모 언어모델(LLM) 구동에 최적화된 전용 GPU를 제공합니다. AWS 베드록(Bedrock)이나 세이지메이커(SageMaker) 대비 최대 100배 저렴한 비용을 강조하며, 데이터 전송 비용(egress)도 무제한으로 무료 제공하여 기존 클라우드의 숨겨진 비용 문제를 해결합니다. 예를 들어, 20GB VRAM GPU는 월 304달러, 96GB VRAM GPU는 월 1,510달러부터 시작하며, CPU 서버는 월 9달러부터 이용 가능합니다.
이러한 RAW의 등장은 AI 개발 및 운영 비용에 대한 새로운 대안을 제시합니다. 기존 클라우드 서비스의 복잡한 요금 체계, GPU 대기 시간, 제한적인 루트 접근 권한 등으로 어려움을 겪던 개발자들에게 큰 매력으로 다가올 수 있습니다. 특히 스타트업이나 1인 개발자처럼 비용 효율성과 빠른 배포가 중요한 주체들에게는 AI 모델을 더 자유롭고 경제적으로 실험하고 확장할 수 있는 기회를 제공할 것입니다. 무제한 대역폭은 대규모 모델을 자주 다운로드하거나 많은 데이터를 처리해야 하는 AI 애플리케이션에 특히 유리합니다.