회의록 작성 및 요약 AI 서비스인 헤디(Hedy)가 최신 3.2 버전에서 모든 AI 파이프라인을 사용자 기기 내에서 처리하는 온디바이스(on-device) AI 기능을 선보였습니다. 이제 회의록 요약, 상세 노트 작성, 채팅 질의응답, 실시간 제안 등 모든 AI 작업이 기기에서 로컬로 이루어지며, 어떠한 대화 내용도 헤디 서버로 전송되지 않습니다. 이는 민감한 정보의 외부 유출을 근본적으로 차단하여 개인정보 보호 및 보안 우려를 해소하는 데 크게 기여할 것으로 보입니다.
헤디는 이전부터 음성 인식 및 오디오 녹음 데이터를 기기 내에 보관하고 AI 모델 학습에 사용하지 않는 등 개인정보 보호에 힘써왔습니다. 하지만 요약 및 분석과 같은 핵심 AI 작업은 고성능 모델이 필요해 서버에서 처리할 수밖에 없었습니다. 그러나 최근 기기 성능 향상과 AI 모델 경량화 기술 발전 덕분에, 노트북이나 최신 아이폰에서도 충분히 높은 품질의 AI 분석을 로컬로 실행할 수 있게 되었습니다. 헤디 3.2는 옵트인(opt-in) 방식으로 온디바이스 AI 처리를 제공하며, 사용자는 자신의 하드웨어에 맞춰 세 가지 품질 등급의 모델 중 하나를 선택할 수 있습니다. 현재 애플 실리콘 맥(Apple Silicon Mac), 특정 GPU를 탑재한 윈도우(Windows) PC, 아이폰 15 프로(iPhone 15 Pro) 이후 모델 및 M 시리즈 아이패드(iPad)에서 지원됩니다.
이러한 온디바이스 AI는 특히 기밀 유지가 중요한 전문가들에게 큰 의미를 가집니다. 변호사, 컨설턴트, 코치 등은 고객과의 민감한 대화 내용을 외부 서버에 저장하는 것에 대한 부담 없이 헤디를 활용할 수 있게 됩니다. 또한 의료 상담, 민감한 취재를 하는 언론인, 해외 서버에 데이터가 저장되는 것을 꺼리는 사용자들에게도 유용합니다. 네트워크 연결 없이 오프라인에서도 모든 기능이 작동하므로, 비행기나 인터넷이 불안정한 지역에서도 회의록을 작성하고 요약할 수 있습니다. 물론 클라우드 AI가 여전히 더 빠르고 결과물의 품질도 우수하지만, 개인정보 보호를 최우선으로 하는 사용자들에게는 온디바이스 AI가 훨씬 매력적인 선택지가 될 것입니다.