이노디스크(Innodisk)가 인텔 코어 울트라 시리즈 3 프로세서(Intel Core Ultra Series 3 Processors)를 활용해 엣지(Edge) 환경에서 대규모 언어모델(LLM)과 시각 언어모델(VLM)의 실시간 성능을 구현하는 솔루션을 발표했습니다. 이는 클라우드 의존도를 줄이고, 데이터 처리 지연 시간을 최소화하여 엣지 디바이스 자체에서 복잡한 AI 작업을 수행할 수 있도록 하는 중요한 진전입니다.
이번 솔루션은 인텔 코어 울트라 시리즈 3 프로세서의 내장형 NPU(신경망 처리 장치)를 적극 활용하여, 이전 세대 대비 AI 추론(inference) 성능을 크게 향상시켰습니다. 이노디스크는 이 강력한 하드웨어와 자사의 펌웨어 및 소프트웨어 최적화 기술을 결합하여, 산업용 PC, 임베디드 시스템 등 다양한 엣지 컴퓨팅 플랫폼에서 LLM과 VLM을 효율적으로 구동할 수 있게 했습니다. 특히, 비전 기반의 AI 애플리케이션에서 실시간 데이터 분석 및 의사결정이 가능해져, 스마트 팩토리의 품질 검사, 자율주행 차량의 환경 인식, 스마트 리테일의 고객 행동 분석 등 광범위한 분야에 적용될 수 있습니다.
이러한 엣지 AI 기술의 발전은 데이터 보안 및 개인 정보 보호 측면에서도 큰 의미를 가집니다. 민감한 데이터를 클라우드로 전송하지 않고 로컬에서 처리함으로써 보안 위험을 줄일 수 있으며, 네트워크 연결이 불안정한 환경에서도 AI 기능을 안정적으로 유지할 수 있습니다. 또한, 클라우드 컴퓨팅 비용 절감 효과도 기대할 수 있어, 기업들이 AI 도입 및 확산에 대한 부담을 덜 수 있을 것입니다. 엣지 디바이스의 지능화는 산업 전반의 디지털 전환을 가속화하고 새로운 서비스 모델을 창출하는 핵심 동력이 될 것으로 보입니다.