IBM이 AI 스타트업 투게더 AI(Together AI)와 2억 4천만 달러(약 3,300억 원) 규모의 전략적 파트너십을 맺고, 엔비디아(Nvidia) GPU 기반의 대규모 AI 추론(inference) 클러스터 구축에 나섭니다. 이번 협력은 오픈소스 AI 모델의 배포와 활용을 가속화하고, 기업 고객들이 AI 모델을 실제 서비스에 적용하는 데 필요한 강력한 인프라를 제공하는 데 초점을 맞추고 있습니다.
이번 계약의 핵심은 엔비디아의 최신 GPU를 활용한 AI 추론 전용 클러스터 구축입니다. 투게더 AI는 이 클러스터를 통해 자사의 오픈소스 모델 플랫폼을 확장하고, IBM은 이를 자사의 기업 고객들에게 제공할 예정입니다. 특히, 투게더 AI는 오픈소스 대규모 언어모델(LLM)을 효율적으로 서비스하는 데 강점을 가지고 있으며, IBM은 왓슨X(watsonx) 플랫폼을 통해 기업용 AI 솔루션을 제공하고 있습니다. 양사의 협력은 AI 모델 개발 경쟁을 넘어, 실제 비즈니스 환경에서 AI를 효과적으로 운영하는 '추론' 단계의 중요성을 부각시킵니다.
이번 파트너십은 AI 산업의 중요한 전환점을 시사합니다. AI 모델의 개발만큼이나 실제 환경에서의 효율적인 배포와 운영, 즉 추론 역량이 중요해지고 있기 때문입니다. 기업들은 자체적으로 AI 인프라를 구축하고 관리하는 데 막대한 비용과 기술적 어려움을 겪고 있으며, IBM과 투게더 AI의 협력은 이러한 부담을 줄여주면서도 최첨단 AI 기술을 활용할 수 있는 기회를 제공할 것입니다. 이는 오픈소스 AI 생태계의 성장을 촉진하고, 더 많은 기업이 AI를 비즈니스에 통합하는 데 기여할 것으로 기대됩니다.