AI 모델 경량화 및 최적화 기술 기업 노타(NOTA)가 업스테이지(Upstage) 컨소시엄과 함께 정부의 '독자 AI 파운데이션 모델(독파모)' 프로젝트 3차수에 진출하며 AI 모델의 효율성을 혁신적으로 개선했습니다. 노타는 초거대 AI 모델을 구동하는 데 필요한 그래픽처리장치(GPU) 수를 기존 8장에서 2장으로 대폭 줄이는 최적화 기술을 성공적으로 적용했습니다.
이번 성과는 독파모 프로젝트의 2차 평가를 통과하며 확인되었으며, 노타의 기술은 국산 AI 모델의 실제 서비스 활용성을 높이는 데 핵심적인 역할을 했습니다. GPU 사용량을 75% 절감함으로써, AI 모델 운영에 드는 막대한 인프라 비용을 절감하고 에너지 효율을 향상시킬 수 있게 되었습니다. 이는 AI 기술이 실제 산업 현장과 일상생활에 더 가깝게 다가갈 수 있는 중요한 기반을 마련한 것으로 평가됩니다.
이러한 AI 모델 경량화 기술은 단순히 비용 절감을 넘어, AI 서비스의 접근성을 높이고 더 넓은 범위의 기기에서 AI를 활용할 수 있게 합니다. 특히, 제한된 자원을 가진 중소기업이나 스타트업도 고성능 AI 모델을 도입하고 운영할 수 있는 가능성을 열어주며, AI 생태계 전반의 혁신을 가속화할 것으로 기대됩니다. 노타의 이번 기여는 한국 AI 기술의 경쟁력을 강화하고, 글로벌 AI 시장에서의 입지를 다지는 데 중요한 발판이 될 것입니다.