최근 한 개발자가 애플 실리콘 맥(Apple Silicon Mac)에서 로컬로 실행되는 온디바이스(on-device) 파운데이션 모델(Foundation Model)을 이용해 문법과 철자를 교정하는 도구를 공개했습니다. 이 'afm-grammar' 프로젝트는 애플 기기에 내장된 언어 모델의 기능을 활용하여, 인터넷 연결 없이도 빠르고 효율적인 텍스트 교정 기능을 제공합니다. 이는 애플 기기 사용자들이 개인 정보 유출 우려 없이 AI 기능을 활용할 수 있는 새로운 가능성을 제시합니다.
이 도구의 핵심은 애플이 제공하는 파운데이션 모델 프레임워크(Foundation Models framework)의 API를 C 함수로 브리징(bridging)했다는 점입니다. 기존에는 애플의 온디바이스 언어 모델이 Swift 언어를 통해서만 접근 가능했지만, 이 프로젝트는 C 언어 인터페이스를 제공함으로써 더 넓은 범위의 개발자들이 애플 기기 내장 AI 기능을 활용할 수 있도록 문턱을 낮췄습니다. 사용자는 Xcode가 설치된 맥에서 'make' 명령어로 간단히 바이너리를 빌드한 후, 커맨드라인에서 텍스트를 입력하여 문법 교정을 받을 수 있습니다. 예를 들어, "he eat two apple"을 입력하면 "He ate two apples."와 같이 올바른 문장으로 출력됩니다.
이러한 온디바이스 AI 활용은 여러 중요한 의미를 가집니다. 첫째, 클라우드 기반 AI와 달리 데이터가 기기 외부로 전송되지 않으므로 개인 정보 보호 측면에서 매우 유리합니다. 둘째, 인터넷 연결 없이도 작동하기 때문에 네트워크 환경에 구애받지 않고 언제 어디서든 AI 기능을 사용할 수 있습니다. 셋째, 클라우드 API 호출 비용이 발생하지 않아 비용 효율적입니다. 이 프로젝트는 애플 기기 내부에 숨겨진 강력한 AI 잠재력을 끌어내어, 향후 다양한 온디바이스 AI 애플리케이션 개발에 영감을 줄 것으로 기대됩니다.