AI 스타트업 트러스티드라우터(TrustedRouter)가 최근 125만 달러(약 17억 원) 규모의 시드(Seed) 투자를 유치하며 업계의 주목을 받고 있습니다. 이 회사는 인공지능(AI) 모델을 운영할 때 발생하는 추론(inference) 비용을 효율적으로 관리하고 최적화하는 솔루션을 개발하고 있습니다. AI 기술이 다양한 산업에 빠르게 확산되면서, 모델 운영 비용 절감은 기업들의 핵심 과제로 떠오르고 있습니다.
트러스티드라우터는 AI 모델의 추론 과정을 분석하고, 어떤 모델을 어떤 하드웨어에서 실행할지 지능적으로 결정하여 비용을 최소화하는 기술을 제공합니다. 이는 마치 클라우드 비용 최적화 솔루션이 컴퓨팅 자원을 효율적으로 배분하듯이, AI 모델의 자원 활용을 극대화하는 방식입니다. 특히 대규모 언어모델(LLM)과 같은 복잡한 AI 모델들은 상당한 컴퓨팅 자원을 요구하기 때문에, 이러한 최적화 기술은 기업의 AI 도입 및 확산에 필수적인 요소로 작용합니다.
이번 투자는 AI 기술 도입이 가속화되는 현 시점에서, 단순히 AI 모델을 개발하는 것을 넘어 이를 효율적으로 운영하는 데 대한 시장의 니즈가 크다는 것을 보여줍니다. 기업들은 AI를 통해 혁신을 추구하지만, 예상치 못한 높은 운영 비용에 직면하는 경우가 많습니다. 트러스티드라우터와 같은 솔루션은 이러한 비용 부담을 줄여주어, 더 많은 기업이 AI 기술을 적극적으로 활용하고 비즈니스 경쟁력을 강화할 수 있도록 지원할 것입니다. 이는 AI 기술의 실질적인 상용화와 확산에 중요한 기여를 할 것으로 기대됩니다.