나리 랩스(Nari Labs) 팀이 Qwen3-TTS 1.7B 커스텀보이스(CustomVoice) 모델을 최적화하여 텍스트-음성 변환(TTS) 서비스의 응답 속도와 비용 효율성을 혁신적으로 개선했습니다. 단일 엔비디아 H100 SXM GPU에서 초당 10건의 요청(RPS)을 처리하면서도, 첫 오디오 출력까지 걸리는 시간(p95 TTFA)을 50밀리초(ms) 미만으로 유지하는 데 성공했습니다. 이는 기존의 다른 TTS 구현 방식들과 비교했을 때 압도적인 성능이며, 실시간 음성 상호작용이 필요한 애플리케이션에 새로운 가능성을 열어줍니다.
나리 랩스는 vLLM-Omni, SGLang-Omni, VoxServe 등 5가지 주요 TTS 구현 방식과 자사 시스템을 비교했습니다. 기존 시스템들은 1 RPS 환경에서도 수백 밀리초의 TTFA를 보였고, 오디오 끊김(underrun) 현상도 잦았습니다. 나리 랩스는 선행 침묵 제거(leading silence removal)와 프레임 축적(frame accumulation) 튜닝을 통해 초기 지연을 줄였으며, 특히 Qwen3-TTS의 토커(Talker), 코드 예측기(Code Predictor), 코덱(Codec) 세 가지 모듈을 하나의 스케줄러 아래 독립적으로 관리하는 새로운 아키텍처를 도입했습니다. 이 통합 스케줄링 방식은 각 모듈의 작업 우선순위를 유연하게 조정하여, 고정된 실행 순서 대신 긴급도에 따라 작업을 재배열함으로써 전체 지연 시간을 획기적으로 단축했습니다. 그 결과, 10 RPS 부하에서도 50ms 미만의 TTFA를 유지하고, 20 RPS에서도 100ms 미만을 기록했습니다.
이러한 기술적 진보는 실시간 음성 AI 서비스 시장에 큰 파급 효과를 가져올 것으로 예상됩니다. 10 RPS에서 초당 약 630자를 처리하며, H100 SXM 인스턴스 시간당 4.29달러를 기준으로 100만 자당 약 2달러의 비용으로 음성 합성이 가능합니다. 이는 일레븐랩스(ElevenLabs) V3의 100달러/100만 자, 카르테시아 소닉(Cartesia Sonic) 3.5의 49달러/100만 자와 비교했을 때 최대 50배 저렴한 수준입니다. 낮은 지연 시간과 저렴한 비용은 음성 비서, 실시간 통역, 오디오북 생성, 게임 내 캐릭터 음성 등 다양한 분야에서 고품질 실시간 음성 경험을 대중화하고, 새로운 비즈니스 모델을 창출하는 데 기여할 것입니다. 특히, 비용 문제로 고품질 TTS 도입을 망설였던 스타트업이나 개인 개발자들에게 큰 기회가 될 수 있습니다.