애플이 자사 기기에서 인공지능(AI) 모델을 앱 내에서 직접 실행하고 최적화하며 배포할 수 있는 새로운 프레임워크 'Core AI'를 공개했습니다. 이 프레임워크는 아이폰, 아이패드, 맥 등 애플 실리콘 기반의 모든 기기에서 CPU, GPU, 뉴럴 엔진(Neural Engine)을 최대한 활용하여 고성능 AI 추론(inference)을 가능하게 합니다. 개발자들은 스위프트(Swift) API를 통해 .aimodel 파일을 앱에 손쉽게 통합할 수 있습니다.
Core AI는 단순한 실행 API를 넘어, AI 모델 개발의 전 과정을 지원하는 포괄적인 도구 체인입니다. 파이토치(PyTorch) 모델을 애플 실리콘에 최적화된 .aimodel 형식으로 변환하고, 모델 압축, 디버깅, 사전 컴파일 기능까지 제공합니다. 특히, 트랜스포머(Transformer)와 같은 대규모 모델의 경우, 키-밸류 캐시(key/value cache)를 활용한 상태(state) 관리나 최적화된 메모리 레이아웃(memory layout) 제어를 통해 추론 성능 저하 없이 일정한 속도를 유지할 수 있도록 돕습니다. 또한, 모델 배포 시 기기별 특화(specialization) 과정을 효율적으로 처리하고, 모델 캐시를 프로그래밍 방식으로 관리하여 사용자 경험을 최적화할 수 있습니다.
이번 Core AI의 출시는 온디바이스 AI의 중요성이 커지는 현 시점에서 애플 생태계 내 AI 개발에 큰 전환점이 될 것으로 보입니다. 사용자 데이터를 기기 밖으로 전송하지 않으므로 개인 정보 보호를 강화하면서도, 앱 내에서 빠르고 반응성 높은 AI 기능을 구현할 수 있게 됩니다. 이는 특히 비전 모델(vision model), 언어 모델(language model) 등 다양한 AI 애플리케이션 개발에 활용될 수 있으며, 개발자들은 애플이 제공하는 Core AI Models 저장소에서 샘(SAM 3), 큐웬(Qwen)과 같은 인기 모델의 변환 레시피와 스위프트 패키지를 활용하여 전처리·후처리 과정을 추상화할 수 있습니다. 결과적으로, 개발자들은 모델 자체의 성능뿐만 아니라, 모델 다운로드, 특화, 캐싱 전략 등 사용자 경험에 영향을 미치는 요소들을 세심하게 설계하여 더욱 완성도 높은 AI 앱을 선보일 수 있을 것입니다.