억만장자 투자자 마크 큐반(Mark Cuban)이 자신의 AI 딥페이크(deepfake)를 활용한 가짜 당뇨병 치료제 광고가 페이스북(Facebook)에 만연하다고 강하게 비판했습니다. 그는 매주 고령층으로부터 이 사기성 광고에 대한 문의를 받는다며, 메타(Meta)가 이러한 피해를 인지하고도 광고 게재를 묵인하고 있다고 지적했습니다. 로이터(Reuters)가 확보한 메타 내부 문서에는 사기 및 금지된 제품 광고에서 발생하는 매출이 2024년 전체 매출의 약 10%인 160억 달러(약 22조 원)에 이를 것이라는 충격적인 추정치가 담겨 있습니다.
내부 문서에 따르면, 메타의 자동화 시스템은 광고주를 차단하기 위해 해당 계정의 사기 가능성이 최소 95% 이상으로 판단되어야 합니다. 이 기준에 미치지 못하는 의심스러운 광고주들은 더 높은 광고비를 지불하고 광고를 계속 게재할 수 있었으며, 이는 사실상 사기성 광고를 용인하는 구조라는 비판을 받습니다. 메타 앱 이용자들은 하루 약 150억 건의 고위험 광고에 노출되고 있었고, 2024년 말 기준 이 광고 범주의 연간 매출 규모는 약 70억 달러로 추산되었습니다. 심지어 2025년 5월 발표 자료에서는 메타 안전 담당 직원들이 미국에서 성공한 사기의 3분의 1에 자사 플랫폼이 관여한다고 추정하기도 했습니다. 이에 대해 메타 대변인 앤디 스톤(Andy Stone)은 문서가 자사의 사기 대응 노력을 왜곡하며, 10% 추정치는 지나치게 포괄적이라고 반박했습니다.
이러한 상황은 대규모 언어모델(LLM) 기반의 AI 기술이 발전하면서 딥페이크를 활용한 사기 수법이 더욱 정교해지고 광범위해지고 있음을 보여줍니다. 특히 고령층은 이러한 디지털 사기에 취약하며, 미국 연방수사국(FBI) 보고서에 따르면 60세 이상 미국인의 인터넷 범죄 피해액은 2025년에 77억 달러를 넘어섰고, 이 중 AI 관련 피해액만 3억 5,200만 달러에 달합니다. 메타와 같은 거대 플랫폼이 사기 광고를 걸러내는 데 소극적이라는 비판은 플랫폼의 사회적 책임과 윤리적 문제에 대한 근본적인 질문을 던집니다. 광고 수익을 위해 사용자 보호를 등한시한다는 지적은 기업의 신뢰도 하락과 더불어 규제 당국의 개입을 촉발할 수 있습니다. 이는 단순히 한 기업의 문제를 넘어, AI 시대에 플랫폼 기업들이 직면할 새로운 형태의 도전 과제를 명확히 보여주고 있습니다.