롤라 비전 시스템즈(Lola Vision Systems)가 인공지능(AI) 모델을 온디바이스(on-device)에서 실행하는 과정을 혁신하고 있습니다. 이 스타트업은 AI 모델을 특정 칩에 맞게 번역하는 소프트웨어 컴파일러 툴체인(compiler toolchain)과 자체 반도체 칩을 개발하여, AI 모델 배포의 복잡성과 비효율성을 해결하고자 합니다. 이는 엔비디아(NVIDIA) 중심의 현 시장에 새로운 대안을 제시하며 주목받고 있습니다.
롤라 비전 시스템즈의 설립자 타요 아데산야(Tayo Adesanya)는 지난 12년간 마이크로칩과 AI 프로세서 분야에서 일하며 AI 컴퓨팅 시장의 수요 변화를 예측했습니다. 그는 2024년 롤라 비전 시스템즈를 설립하고, AI 모델을 하드웨어에 수동으로 설정하는 데 약 200시간이 소요되는 비효율적인 과정을 자동화하는 데 집중했습니다. 이들의 핵심 소프트웨어는 고객의 AI 모델 코드를 받아 특정 칩이 실행할 수 있는 명령어로 번역하며, 이를 통해 설정 시간을 단축하고 전력 소비를 줄여 더 정확한 모델 실행을 가능하게 합니다. 현재 12개 기업이 롤라 비전의 칩 구매 의향서를 제출했으며, 이미 한 곳과 계약을 체결했습니다. 자체 칩 출시 전까지는 기존 하드웨어에서 소프트웨어를 라이선스하는 방식으로 수익을 창출할 계획이며, 현재까지 총 100만 달러 이상을 유치했습니다.
이 기술은 특히 항공우주 및 기타 미션 크리티컬(mission-critical) 산업에서 중요합니다. 이러한 분야에서는 AI 모델의 정확성과 신뢰성이 제품의 규제 승인과 현장 작동 여부를 결정하기 때문입니다. 기존 엔비디아 젯슨(Jetson)이나 오픈소스 AI 모델은 초기 설정 및 디버깅에 많은 시간과 노력이 필요하고, 전력 소비 문제나 필요한 컴퓨팅 성능 부족으로 모델이 제대로 작동하지 않는 경우가 많았습니다. 롤라 비전 시스템즈는 이러한 문제점을 해결하여 개발 시간을 단축하고, 저전력으로 고성능 AI 모델을 안정적으로 실행할 수 있는 환경을 제공함으로써, 온디바이스 AI 시장의 새로운 표준을 제시할 잠재력을 가지고 있습니다.