최근 미국 뉴욕 주지사 선거 캠페인에서 인공지능(AI)으로 생성된 가짜 음성(딥페이크 오디오) 광고가 등장하며 큰 파장을 일으켰습니다. 해당 광고는 현직 주지사 캐시 호컬(Kathy Hochul)의 목소리를 모방하여 상대 후보를 비판하는 내용을 담고 있었는데, 실제 호컬 주지사가 한 말이 아니라는 사실이 밝혀지면서 논란의 중심에 섰습니다. 이는 AI 기술이 선거 캠페인에 악용될 수 있음을 보여주는 대표적인 사례로 지목되고 있습니다.
문제의 광고는 공화당 후보 리 젤딘(Lee Zeldin) 측이 제작한 것으로 알려졌으며, 호컬 주지사가 범죄율 증가에 대해 무관심하다는 내용의 주장을 담고 있었습니다. 하지만 호컬 주지사 측은 즉각 해당 음성이 AI로 조작된 것이며, 자신은 그런 발언을 한 적이 없다고 반박했습니다. 이처럼 실제 인물의 목소리를 정교하게 모방한 AI 생성 콘텐츠는 유권자들이 정보의 진위를 판단하기 어렵게 만들어 선거 과정의 투명성과 공정성을 심각하게 위협할 수 있습니다.
이번 사건은 AI 기술이 민주주의와 선거 시스템에 미칠 수 있는 잠재적인 위험성을 다시 한번 상기시킵니다. 딥페이크(deepfake) 기술은 단순히 오락을 넘어 정치적 선동이나 허위 정보 유포의 강력한 도구가 될 수 있으며, 이는 유권자들의 판단을 흐리게 하고 사회적 혼란을 야기할 수 있습니다. 따라서 AI 기술을 활용한 선거 광고에 대한 명확한 규제와 윤리적 가이드라인 마련이 시급하며, 유권자들 역시 AI 생성 콘텐츠에 대한 비판적인 사고와 분별력을 갖추는 것이 중요해지고 있습니다.