한 개발자가 애플의 파운데이션 모델(Foundation Model)을 Xcode에서 클라우드 연결 없이 로컬 환경에서 구동할 수 있도록 하는 프록시 스크립트를 공개해 주목받고 있습니다. 이 스크립트는 macOS 27과 Xcode-베타에 존재하는 내부 정규표현식(regex) 버그를 우회하여, 개발자들이 애플 인텔리전스(Apple Intelligence) 기능을 오프라인 상태에서도 활용할 수 있는 길을 열었습니다. 이는 애플이 강조하는 온디바이스(on-device) AI의 잠재력을 실제로 구현하는 중요한 단계로 평가됩니다.
공개된 파이썬(Python) 스크립트 'fm_proxy.py'는 로컬 포트 1977을 열어 애플의 파운데이션 모델이 서비스되는 포트 1976으로 트래픽을 전달하는 방식으로 작동합니다. 이 프록시는 모델의 응답을 가로채어 필요한 형식으로 변환함으로써, Xcode가 클라우드 API를 호출하는 대신 로컬 모델과 직접 통신할 수 있게 합니다. 특히, SSE(Server-Sent Events) 스트림 처리 과정에서 발생하는 오류를 수정하고, 응답 객체에 필요한 메타데이터(예: object, created, index, finish_reason, delta)를 추가하여 Xcode가 예상하는 형식에 맞추는 디테일한 작업이 포함되어 있습니다. 이를 통해 개발자들은 인터넷 연결 없이도 코드 완성, 디버깅 지원 등 애플 인텔리전스의 다양한 AI 기능을 활용할 수 있게 됩니다.
이러한 로컬 구동 가능성은 개발자들에게 상당한 이점을 제공합니다. 첫째, 클라우드 의존성을 제거하여 네트워크 지연 없이 더 빠르고 안정적인 개발 환경을 구축할 수 있습니다. 둘째, 민감한 코드나 데이터를 클라우드로 전송할 필요가 없어 개인 정보 보호 및 보안 측면에서 유리합니다. 셋째, 애플 인텔리전스 기능이 아직 모든 지역에서 제공되지 않거나 특정 규제에 묶여 있는 경우에도 개발자들이 해당 기능을 미리 테스트하고 통합할 수 있는 기회를 제공합니다. 이는 애플의 온디바이스 AI 전략이 단순한 마케팅 구호가 아니라, 실제 개발 환경에서도 구현될 수 있음을 보여주는 사례로, 향후 AI 개발의 방향성에 중요한 시사점을 던집니다.