리커시브 인텔리전스(Ricursive Intelligence)가 AI 칩 설계 플랫폼을 구동하기 위해 자체 개발한 대규모 언어모델(LLM)의 범용 버전인 ‘리플-65B 프리뷰(Ripple-65B Preview)’를 선보였습니다. 이 모델은 12조 토큰으로 사전 학습되었고, 최대 100만 토큰의 컨텍스트(context)를 지원합니다. 특히 에이전트 코딩 성능을 평가하는 터미널벤치 2.1(TerminalBench 2.1)에서 80.52점을 기록하며, 미국에서 개발된 오픈웨이트 모델 중 최고 성능을 달성해 업계의 이목을 집중시키고 있습니다.
리플-65B 프리뷰는 매개변수(parameter)가 훨씬 많은 리플렉션 빔(Reflection Beam) 501B(80.1점), 메타 뮤즈 스파크 오픈(Meta Muse Spark Open) 816B(76.4점) 등을 앞섰습니다. 놀라운 점은 이 모델의 전체 연구개발비가 3,200만 달러에 불과하다는 것입니다. 이는 기존 에이전트 코딩 분야의 최고 성능 오픈웨이트 모델 개발 비용의 약 10분의 1 수준으로, 샘 알트만(Sam Altman)이 GPT-4 학습에 1억 달러 이상이 들었다고 밝힌 것과 비교하면 매우 효율적인 비용 구조를 보여줍니다. 리커시브 인텔리전스는 자체 합성 데이터와 계산 효율에 중점을 둔 지도 미세조정(SFT) 및 강화학습(RL) 방식을 통해 140만 회의 롤아웃(rollout)만으로 높은 성능에 도달했는데, 이는 이전 최고 모델보다 약 70배 적은 롤아웃 수치입니다.
이 모델은 밀집 트랜스포머(dense Transformer) 구조를 채택하여 강한 추론 성능과 낮은 지연 시간의 토큰 생성을 제공합니다. 상대적으로 작은 매개변수 규모 덕분에 엔비디아 DGX 스파크(NVIDIA DGX Spark)와 같은 로컬 장치에서도 효율적으로 실행 가능합니다. 이는 데이터센터급 가속기에 비해 메모리 대역폭이 낮은 환경에서도 활용될 수 있음을 의미합니다. 현재 허깅 페이스(Hugging Face), 투게더 AI(Together AI), GMI 클라우드(GMI Cloud), 오픈라우터(OpenRouter) 등 다양한 플랫폼에서 이용할 수 있어 접근성도 높습니다.
리플-65B 프리뷰의 등장은 고성능 AI 모델 개발의 비용 효율성을 크게 개선할 수 있음을 보여줍니다. 특히 AI 칩 설계와 같은 특정 도메인에 최적화된 모델을 저비용으로 개발하고, 이를 다시 범용 모델로 확장하는 전략은 앞으로 다양한 산업 분야에서 맞춤형 AI 모델 개발을 가속화할 잠재력을 가지고 있습니다. 또한, 미국산 오픈웨이트 모델이라는 점은 특정 국가의 규제나 보안 우려가 있는 기업들에게 매력적인 대안이 될 수 있습니다. 이는 AI 모델 개발의 패러다임이 단순히 규모를 키우는 것을 넘어, 효율성과 특정 목적에 최적화하는 방향으로 진화하고 있음을 시사합니다.