프랑스 AI 스타트업 ZML이 대규모 언어모델(LLM) 추론(inference) 성능을 획기적으로 개선하는 소프트웨어 'ZML/LLMD'를 무료로 공개하며 AI 업계에 파장을 일으키고 있습니다. 이 소프트웨어는 엔비디아(Nvidia)뿐만 아니라 AMD, 구글(Google) TPU, 애플(Apple) 메탈(Metal), 인텔(Intel) 아크(Arc) 등 다양한 AI 칩에서 오픈소스 LLM을 최고 속도로 실행할 수 있게 합니다. 이는 기존의 칩별 사일로(silo)를 허물고 AI 활용의 효율성을 극대화하려는 ZML의 야심을 보여줍니다.
ZML 창업자 스티브 모린(Steeve Morin)은 AI가 일상에 깊숙이 통합되면서 모델 훈련(training)보다 프롬프트 처리(inference) 최적화의 중요성이 커지고 있다고 강조했습니다. 그는 소프트웨어 및 아키텍처 장벽으로 인한 특정 벤더 종속성(vendor lock-in) 문제를 해결하고, 기업과 클라우드 서비스 제공자들이 더 저렴하거나 에너지 효율적인 다양한 칩을 혼합하여 사용할 수 있는 선택권을 제공하고자 합니다. ZML은 젠리(Zenly)의 엔지니어링 부사장 출신인 모린의 리더십 아래 20명의 소수 정예 팀으로 빠르게 움직이며, 얀 르쿤(Yann LeCun), 허깅페이스(Hugging Face) 창업자 등 업계 거물들의 지지를 받아 2천만 달러의 투자를 유치했습니다.
ZML/LLMD의 출시는 AI 관련 비용에 대한 우려가 커지는 가운데, 시장 판도를 바꿀 잠재력을 가지고 있습니다. 다양한 칩에서 최고 성능을 달성하는 것은 기술적 위업일 뿐만 아니라, 엔비디아의 독점적 지배력에 도전하는 새로운 선택지를 제공합니다. 이는 액셀레라(Axelera), 프랙타일(Fractile) 등 유럽의 신생 AI 칩 제조사들에게도 새로운 기회를 열어줄 수 있습니다. ZML은 당분간 ZML/LLMD를 무료로 제공하며 사용량 데이터를 수집하고, 이를 통해 가장 효과적인 수익 모델을 찾아낼 계획입니다. 이러한 접근 방식은 AI 기술의 확산을 가속화하고, 더 많은 사용자가 AI 시스템을 구축하고 효율성을 높일 수 있도록 지원할 것입니다.