코슬라 벤처스(Khosla Ventures)의 투자를 받은 한 스타트업이 아이폰에서 직접 구동되는 역대 최대 규모의 인공지능(AI) 모델을 개발했다고 발표하며 업계의 주목을 받고 있습니다. 이는 기존의 클라우드 기반 AI 모델과 달리, 인터넷 연결 없이도 스마트폰 자체에서 복잡한 AI 작업을 처리할 수 있음을 의미합니다. 이러한 온디바이스(on-device) AI 기술의 발전은 사용자 경험과 데이터 보안 측면에서 중요한 변화를 가져올 것으로 기대됩니다.
이 스타트업은 구체적인 모델명이나 기술적 세부 사항을 아직 공개하지 않았지만, 아이폰과 같은 모바일 기기에서 대규모 언어 모델(LLM)을 효율적으로 실행할 수 있는 최적화 기술을 개발한 것으로 보입니다. 일반적으로 대규모 AI 모델은 방대한 연산 자원과 메모리를 필요로 하여 클라우드 서버에서만 구동 가능하다고 여겨졌습니다. 하지만 이번 발표는 모바일 기기의 제한된 자원 내에서도 고성능 AI를 구현할 수 있는 새로운 가능성을 제시하며, AI 기술의 대중화와 개인화를 가속화할 잠재력을 보여줍니다.
아이폰에서 직접 AI 모델이 구동되면 여러 이점이 있습니다. 첫째, 클라우드 서버와의 통신 지연 없이 즉각적인 응답이 가능해져 사용자 경험이 크게 향상됩니다. 둘째, 민감한 개인 정보가 외부 서버로 전송되지 않고 기기 내에서 처리되므로 데이터 프라이버시(privacy)가 강화됩니다. 이는 특히 의료, 금융 등 보안이 중요한 분야에서 온디바이스 AI의 활용도를 높일 수 있습니다. 이러한 기술 발전은 향후 스마트폰, 웨어러블 기기 등 다양한 엣지 디바이스(edge device)에서 AI가 핵심적인 역할을 수행하게 될 미래를 앞당길 것입니다.