AI 인프라 스타트업 빔(Beam)이 자사의 핵심 기술인 '베타9(Beta9)'을 오픈소스로 공개했습니다. 베타9은 서버리스(serverless) AI 워크로드를 위한 고성능 런타임으로, GPU 추론(inference)과 격리된 샌드박스 환경을 효율적으로 제공하는 데 초점을 맞춥니다. 이를 통해 개발자들은 복잡한 인프라 관리 없이 AI 애플리케이션을 신속하게 배포하고 확장할 수 있게 되었습니다.
베타9은 특히 빠른 콜드 스타트(cold start) 시간을 자랑하는데, 커스텀 컨테이너 런타임, 스케줄러, 임베디드 캐싱(embedded caching) 기술을 활용하여 컨테이너를 1초 이내에 실행할 수 있습니다. 또한, 수백 개의 컨테이너로 워크로드를 분산 처리하는 병렬화 및 동시성(concurrency) 기능을 지원하며, 핫 리로딩(hot-reloading), 웹훅(webhooks), 예약 작업(scheduled jobs) 등 개발자 경험을 위한 다양한 기능을 포함합니다. 엔비디아(NVIDIA) 4090, H100 등 최신 GPU를 지원하며, 사용자는 빔 클라우드(Beam Cloud)를 이용하거나 기존 쿠버네티스(Kubernetes) 클러스터에 헬름 차트(Helm chart)를 통해 직접 호스팅(self-hosting)할 수 있습니다.
이번 오픈소스 공개는 AI 개발의 진입 장벽을 낮추고, 특히 대규모 언어모델(LLM)과 같은 AI 모델을 활용하는 애플리케이션 개발을 가속화할 것으로 기대됩니다. 개발자들은 베타9을 통해 인프라 구축 및 관리에 드는 시간과 비용을 절감하고, 오직 AI 모델 개발 자체에만 집중할 수 있게 됩니다. 이는 AI 기술의 상용화와 확산에 중요한 기여를 할 것이며, 스타트업이나 소규모 팀도 대기업 수준의 AI 인프라를 활용할 수 있는 기회를 제공합니다.