AI 소프트웨어 기업 C3.ai가 기업 고객을 위한 'C3 LLM 게이트웨이'를 공식 출시했습니다. 이 게이트웨이는 기업이 다양한 대규모 언어모델(LLM)을 통합하고 관리하는 데 필요한 핵심 기능을 제공하며, LLM 선택의 유연성을 높이고 비용 및 성능을 최적화하는 것을 목표로 합니다. 이는 기업들이 AI 도입 과정에서 겪는 복잡성과 거버넌스 문제를 해결하는 데 중요한 역할을 할 것으로 기대됩니다.
C3 LLM 게이트웨이는 마이크로소프트 애저(Microsoft Azure)의 애저 오픈AI 서비스(Azure OpenAI Service), 구글 클라우드(Google Cloud)의 팜 2(PaLM 2), 아마존 웹 서비스(AWS)의 아마존 베드록(Amazon Bedrock) 등 주요 클라우드 제공업체의 LLM을 비롯해 오픈AI(OpenAI)의 GPT-4, 메타(Meta)의 라마 2(Llama 2) 등 다양한 모델을 지원합니다. 기업은 이 게이트웨이를 통해 여러 LLM을 단일 인터페이스로 연결하고, 특정 작업에 가장 적합한 모델을 동적으로 라우팅할 수 있습니다. 또한, 사용량 기반의 비용 관리, 성능 모니터링, 데이터 보안 및 규정 준수 기능도 제공하여 기업의 AI 운영 효율성을 극대화합니다.
이번 C3 LLM 게이트웨이 출시는 기업이 특정 LLM 벤더에 종속되지 않고 최적의 AI 솔루션을 선택할 수 있는 환경을 조성한다는 점에서 의미가 큽니다. 이는 기업이 빠르게 변화하는 LLM 생태계에 유연하게 대응하고, 데이터 주권과 보안을 강화하며, AI 도입의 장벽을 낮추는 데 기여할 것입니다. 궁극적으로 기업은 이 게이트웨이를 통해 AI 전략의 민첩성을 확보하고, 혁신적인 비즈니스 가치를 창출하는 데 집중할 수 있게 될 것입니다.