AI 기반 검색 엔진 퍼플렉시티(Perplexity)가 '하이브리드 컴퓨팅(Hybrid Compute)'이라는 새로운 기능을 선보였습니다. 이 기능은 인공지능 작업의 일부를 클라우드 서버에서 처리하고, 또 다른 일부는 사용자의 개인 기기(현재는 Mac)에서 직접 처리하는 방식입니다. 이는 AI 검색의 속도를 높이면서도 사용자 개인 정보 보호를 강화하기 위한 전략적인 움직임으로, AI 서비스 제공 방식에 새로운 가능성을 제시하고 있습니다.
하이브리드 컴퓨팅의 핵심은 작업 분할에 있습니다. 예를 들어, 방대한 웹 데이터를 탐색하고 복잡한 추론(inference)을 수행하는 등 컴퓨팅 자원이 많이 필요한 작업은 퍼플렉시티의 클라우드 인프라에서 담당합니다. 반면, 사용자의 질의에 포함된 민감한 정보나 개인화된 데이터 처리는 사용자의 Mac 기기 내에서 직접 이루어집니다. 이는 데이터를 외부 서버로 전송하지 않고 로컬에서 처리함으로써 개인 정보 유출 위험을 최소화하고, 동시에 클라우드와의 통신 지연을 줄여 응답 속도를 향상시키는 효과를 가져옵니다.
이러한 하이브리드 접근 방식은 AI 서비스의 미래 방향에 중요한 시사점을 줍니다. 기존에는 모든 AI 작업이 클라우드에서 이루어지거나, 혹은 기기 내에서만 이루어지는(온디바이스 AI) 양극단의 형태가 일반적이었습니다. 퍼플렉시티의 하이브리드 컴퓨팅은 이 두 가지 장점을 결합하여, 성능과 개인 정보 보호라는 상충될 수 있는 가치를 동시에 추구할 수 있음을 보여줍니다. 이는 특히 개인 정보 보호에 민감한 사용자들에게 매력적인 선택지가 될 것이며, AI 서비스 개발자들이 온디바이스 AI와 클라우드 AI의 최적 조합을 고민하는 계기가 될 것입니다.