애플이 세계 개발자 콘퍼런스 WWDC 2024에서 온디바이스 AI(On-device AI) 시대를 열 핵심 기술인 '코어 AI(Core AI)' 프레임워크를 공개했습니다. 이는 개발자들이 아이폰, 아이패드, 맥 등 애플 기기에서 직접 대규모 언어모델(LLM)과 확산 모델(Diffusion Model) 같은 복잡한 AI 모델을 구동할 수 있도록 설계된 도구입니다. 서버를 거치지 않고 기기 자체에서 AI 연산을 처리함으로써 사용자 데이터 보호와 빠른 응답 속도를 동시에 확보하려는 애플의 전략적 움직임으로 풀이됩니다.
코어 AI는 기존의 코어 ML(Core ML) 프레임워크를 확장한 것으로, 개발자들이 파이토치(PyTorch)나 텐서플로우(TensorFlow) 등 널리 사용되는 머신러닝 프레임워크로 학습된 모델을 애플 기기에 최적화하여 배포할 수 있게 돕습니다. 특히, LLM의 효율적인 실행을 위해 모델 양자화(quantization) 및 압축 기술을 강화하고, 애플 실리콘 칩의 뉴럴 엔진(Neural Engine)을 최대한 활용하도록 설계되었습니다. 이를 통해 개발자들은 적은 메모리와 전력으로도 고성능 AI 기능을 앱에 통합할 수 있게 됩니다. 예를 들어, 텍스트 생성, 이미지 편집, 음성 인식 등 다양한 AI 기능을 클라우드 연결 없이 기기 내에서 구현할 수 있습니다.
이번 코어 AI 프레임워크 출시는 애플의 AI 전략이 온디바이스 중심으로 강력하게 전환되고 있음을 보여줍니다. 사용자들은 개인 정보 유출 걱정 없이 더욱 빠르고 개인화된 AI 경험을 누릴 수 있게 되며, 개발자들은 애플 생태계 내에서 혁신적인 AI 앱을 만들 수 있는 강력한 도구를 얻게 됩니다. 이는 장기적으로 애플 기기의 경쟁력을 높이고, AI 기술의 대중화를 가속화하는 중요한 전환점이 될 것입니다. 또한, 클라우드 기반 AI 서비스에 대한 의존도를 줄여 비용 효율성을 높이는 효과도 기대됩니다.