AI 스타트업 칼로섬(Callosum)이 최근 1억 달러(약 1,300억 원) 규모의 대규모 투자를 유치하며 업계의 주목을 받고 있습니다. 이들은 인공지능(AI) 작업 부하(워크로드)를 특정 작업에 가장 적합한 AI 칩(하드웨어)에 자동으로 매칭시키는 혁신적인 기술을 개발하고 있습니다. 이는 AI 모델의 복잡성이 증가하고 다양한 종류의 AI 칩이 등장하면서 발생하는 컴퓨팅 자원 최적화 문제를 해결하려는 시도입니다.
칼로섬의 핵심 기술은 AI 모델의 특성과 필요한 컴퓨팅 자원을 분석하여, 엔비디아(NVIDIA) GPU뿐만 아니라 AMD, 인텔(Intel) 등 다양한 제조사의 AI 가속기(accelerator) 중 가장 효율적인 것을 찾아 연결하는 것입니다. 현재 AI 개발자들은 특정 AI 작업을 실행할 때 어떤 칩이 가장 적합한지 판단하기 어렵고, 여러 종류의 칩을 동시에 활용하는 것도 쉽지 않습니다. 칼로섬은 이러한 비효율성을 해소하여 기업들이 AI 인프라 비용을 절감하고 성능을 극대화할 수 있도록 돕는 것을 목표로 합니다.
이번 칼로섬의 대규모 투자 유치는 AI 컴퓨팅 자원의 효율적인 관리가 점차 중요해지고 있음을 보여줍니다. 대규모 언어모델(LLM)과 같은 최신 AI 모델들은 막대한 컴퓨팅 자원을 요구하며, 이는 곧 천문학적인 비용으로 이어집니다. 칼로섬의 기술은 이러한 비용 부담을 줄이고, 특정 하드웨어에 대한 종속성을 완화하여 AI 생태계의 다양성과 경쟁을 촉진할 수 있습니다. 궁극적으로는 더 많은 기업과 개발자들이 효율적인 방식으로 AI 기술을 활용할 수 있는 기반을 마련할 것으로 기대됩니다.