실리콘밸리의 AI 신동으로 불리는 시길 웬(Sigil Wen)이 사용자 프라이버시를 최우선으로 하는 온디바이스 AI 비서 '언더독(Underdog)'의 비공개 베타 버전을 공개했습니다. 이 서비스는 사용자 데이터를 클라우드로 전송하지 않고 기기 내에서만 처리하여 보안을 강화하며, 무료로 제공되면서도 쇼핑 리서치나 수학 문제 해결 등 일상적인 작업을 충분히 수행할 수 있는 성능을 자랑합니다.
웬은 17세에 실리콘밸리로 건너가 안드레이 카르파티(Andrej Karpathy) 등 유명 AI 연구자들과 함께 지내며 퍼플렉시티(Perplexity) 창업자 아라빈드 스리니바스(Aravind Srinivas), 오픈AI(OpenAI) 연구원 노암 브라운(Noam Brown) 등 AI 업계의 거물들과 교류했습니다. 그는 앤트로픽(Anthropic)의 클로드(Claude), 미드저니(Midjourney), 오픈AI의 GPT-3, 스테이블 디퓨전(Stable Diffusion) 등 초기 AI 도구들을 테스트하며 경험을 쌓았습니다. 현재는 피터 틸(Peter Thiel)의 틸 펠로우(Thiel Fellow)로 선정되어 학업 대신 프로젝트에 집중하고 있으며, 맥(Mac)과 윈도우(Windows) PC에서 작동하는 언더독을 시작으로 리눅스(Linux), 아이폰(iPhone), 안드로이드(Android) 버전도 출시할 예정입니다. 언더독은 자체 개발한 추론 엔진(inference engine)인 허스키(Husky)를 통해 AI 모델을 기기에서 빠르게 실행하며, 270억 개 매개변수(parameter)의 추론 모델을 사용해 6개월 전 클로드 오푸스(Claude Opus) 4.6과 견줄 만한 성능을 보여준다고 웬은 설명합니다.
언더독의 가장 독특한 점은 비즈니스 모델입니다. 이 앱은 광고 없이 무료로 제공되며, AI가 사용자 기기에서 실행되므로 클라우드 기반 AI 서비스와 같은 막대한 추론 비용이 발생하지 않습니다. 대신 스트라이프(Stripe) 공동 창업자 패트릭 콜리슨(Patrick Collison)이 엔젤 투자자로 참여한 가운데, 핀테크(fintech) 시대의 전략을 차용하여 AI 비서가 스트라이프의 안전한 결제 시스템을 통해 수행하는 결제 거래에서 소액의 수수료를 받습니다. 이는 사용자의 데이터를 수집하여 광고주에게 판매하거나 모델 학습에 사용하는 기존 AI 비서들과는 대조적인 접근 방식입니다. 민감한 개인 정보에 접근해야 하는 AI 비서의 특성을 고려할 때, 이러한 프라이버시 중심의 수익 모델은 사용자들에게 큰 매력으로 다가갈 것입니다. 웬은 “AI를 사용하기 위해 개인 정보를 포기할 필요가 없다”며, “미래의 자녀들이 자랑스러워할 만한 제품을 만들고 싶다”고 포부를 밝혔습니다.