미국 법무부(DOJ)가 인공지능(AI) 기반 음성 위조 기술을 활용해 기업 임원을 사칭, 무려 1억 3천만 달러(약 1,700억 원)에 달하는 금액을 편취한 혐의로 3인조 사기단을 기소했습니다. 이번 사건은 딥페이크(deepfake) 기술이 금융 범죄에 실제 적용되어 막대한 피해를 입힌 첫 사례 중 하나로, AI 기술의 윤리적 오용과 그로 인한 사회적 파장이 얼마나 클 수 있는지 경고하고 있습니다.
기소된 사기단은 2020년부터 2022년까지 여러 기업의 최고경영자(CEO)나 고위 임원의 목소리를 AI로 정교하게 모방했습니다. 이들은 가짜 음성으로 재무 담당자에게 전화해 긴급한 인수합병(M&A)이나 비밀 프로젝트를 가장하며 거액의 자금을 특정 계좌로 송금하도록 지시했습니다. 특히, 한 영국 에너지 회사의 CEO 목소리를 위조해 독일 모회사에 3,500만 유로(약 500억 원)를 헝가리 공급업체에 송금하도록 속인 사건은 국제적인 주목을 받았습니다. 이들은 또한 가짜 이메일과 서류를 함께 사용해 사기의 신뢰도를 높이는 치밀함을 보였습니다.
이번 사건은 AI 기술이 단순한 오락이나 정보 조작을 넘어 실제 금융 시스템을 위협하는 강력한 범죄 도구로 활용될 수 있음을 명확히 보여줍니다. 기업들은 고도화된 AI 기반 사기 수법에 대응하기 위해 기존의 보안 프로토콜을 재검토하고, 다단계 인증(MFA) 및 생체 인식 기술 도입을 가속화해야 할 필요성을 느끼게 될 것입니다. 또한, AI 기술 개발자들은 잠재적인 오용 가능성을 예측하고 이를 방지하기 위한 기술적, 윤리적 안전장치를 마련하는 데 더욱 책임감을 가져야 할 것입니다. 개인과 기업 모두 AI 시대의 새로운 위협에 대한 경각심을 높이고, 기술의 양면성을 이해하는 것이 중요해졌습니다.