할아버지가 딥페이크(deepfake) 음성 사기를 당한 충격적인 경험을 계기로, 타리니 파드마나부니(Tarini Padmanabhuni)는 딥페이크 음성 탐지 스타트업 DetectifAI를 설립했습니다. 이 회사는 스마트폰 운영체제 내에서 직접 작동할 수 있을 만큼 작은 인공지능(AI) 모델을 개발하여, 통화나 음성 메시지 등에서 실시간으로 AI 생성 음성을 판별하는 온디바이스(on-device) 솔루션을 제공합니다. 이는 사용자가 딥페이크 사기에 노출되는 것을 근본적으로 방지하려는 시도입니다.
파드마나부니의 할아버지는 납치범을 사칭한 딥페이크 음성에 속아 돈을 지불했지만, 나중에야 그의 형제가 안전하다는 사실을 알게 되었습니다. 이 사건은 그녀에게 딥페이크 탐지 기술의 필요성을 절감하게 했습니다. 실제로 미국 연방수사국(FBI)에 따르면, 지난해 AI 기반 사기로 인한 피해액은 약 9억 달러(약 1조 2천억 원)에 달하며, 60대 이상 고령층의 피해가 특히 심각합니다. 현재 딥페이크 음성 탐지 시장에는 Reality Defender, Pindrop 등 여러 경쟁자가 있지만, 대부분 클라우드(cloud) 기반으로 작동하여 스마트폰에 직접 내장하기 어렵다는 한계가 있습니다. DetectifAI는 이러한 문제를 해결하기 위해 처음부터 스마트폰에 최적화된 경량 AI 모델을 설계하여, 오디오 데이터가 기기를 벗어나지 않고도 즉시 판별이 가능하도록 했습니다.
DetectifAI는 우선 스마트폰 제조사에 소프트웨어 개발 키트(SDK) 형태로 기술을 라이선스(license)하여, 딥페이크 탐지 기능을 휴대폰 운영체제의 기본 기능으로 탑재하는 것을 목표로 합니다. 이는 초기 아이폰(iPhone) 출시 당시 AT&T가 독점 계약으로 경쟁 우위를 확보했던 것과 유사한 전략입니다. 또한, 기업이나 사기 방지 전문 업체에도 기술 라이선스를 제공하여 추가 수익을 창출할 계획입니다. 이미 인도 금융 기관들을 대상으로 월 10만 건 이상의 통화에 대해 딥페이크 탐지 및 발신자 확인 서비스를 제공하며 초기 매출을 올리고 있습니다. 이처럼 DetectifAI의 온디바이스 접근 방식은 딥페이크 사기 피해를 줄이는 데 기여할 뿐만 아니라, 사용자 프라이버시(privacy)를 보호하고 실시간 대응력을 높여 AI 시대의 새로운 보안 표준을 제시할 잠재력을 가지고 있습니다.