글로벌 데이터 클라우드 기업 스노우플레이크(Snowflake)가 기업 고객의 인공지능(AI) 운영 효율성과 비용 절감을 위해 코텍스 AI 게이트웨이(Cortex AI Gateway)에 '다이나믹 모델 라우팅(Dynamic Model Routing)' 기능을 새롭게 도입했습니다. 이 기능은 사용자의 요청에 따라 최적의 AI 모델을 자동으로 선택하고 연결해주는 역할을 하며, 이를 통해 기업들은 AI 모델 활용의 복잡성을 줄이고 비용을 더욱 효과적으로 관리할 수 있게 됩니다.
스노우플레이크는 이번 업데이트를 통해 코텍스 AI 게이트웨이의 모델 포트폴리오를 확장했습니다. 특히, '딥시크 V4 플래시 0731(DeepSeek-V4-Flash 0731)'과 'GLM-5.3'과 같은 새로운 대규모 언어모델(LLM)들을 추가하여 사용자들이 더 넓은 선택지를 가질 수 있도록 했습니다. 다이나믹 모델 라우팅은 단순히 모델을 연결하는 것을 넘어, 각 작업의 특성과 비용 효율성을 고려하여 가장 적합한 모델을 동적으로 할당함으로써 AI 추론(inference) 비용을 최적화하는 것이 핵심입니다.
이러한 스노우플레이크의 움직임은 기업들이 AI를 도입하고 확장하는 과정에서 겪는 주요 난관 중 하나인 비용과 복잡성 문제를 해결하려는 시도로 해석됩니다. 다양한 AI 모델들이 등장하면서 어떤 모델을 언제, 어떻게 사용해야 할지 결정하는 것이 점점 더 어려워지고 있는데, 다이나믹 모델 라우팅은 이러한 의사결정을 자동화하여 기업들이 AI 혁신에 더욱 집중할 수 있도록 돕습니다. 결과적으로 기업들은 더 적은 비용으로 더 나은 AI 성능을 얻고, 비즈니스 가치를 창출하는 데 필요한 AI 애플리케이션 개발 속도를 높일 수 있을 것으로 기대됩니다.