최근 한 인공지능(AI) 스타트업이 서버에서만 가능했던 대규모 언어모델(LLM)을 아이폰과 같은 모바일 기기에서 직접 구동할 수 있는 기술을 개발하고 있다고 알려졌습니다. 이는 AI 모델의 크기를 획기적으로 줄여, 클라우드 서버와의 통신 없이도 기기 자체에서 복잡한 AI 작업을 처리할 수 있게 하는 것을 목표로 합니다.
이 스타트업은 AI 모델의 효율성을 극대화하는 데 초점을 맞추고 있습니다. 현재 대부분의 고성능 AI는 방대한 컴퓨팅 자원을 필요로 하여 데이터센터의 서버에서 운영됩니다. 하지만 이 기술이 상용화되면, 아이폰 사용자들은 인터넷 연결 없이도 더욱 빠르고 개인화된 AI 기능을 경험할 수 있게 됩니다. 이는 특히 개인 정보 보호 측면에서 큰 이점을 제공하는데, 사용자의 민감한 데이터가 기기 외부로 전송될 필요가 없기 때문입니다.
이러한 온디바이스(On-device) AI 기술의 발전은 AI 애플리케이션의 새로운 지평을 열 것으로 기대됩니다. 개발자들은 클라우드 비용 부담을 줄이고, 사용자는 지연 없는 실시간 AI 경험을 누릴 수 있습니다. 또한, 네트워크 연결이 불안정한 환경에서도 AI 기능을 활용할 수 있게 되어, 모바일 기기의 활용 범위를 크게 확장할 잠재력을 가지고 있습니다.