최근 멕시코의 한 법원에서 인공지능(AI)으로 생성된 영상이 재판 결과에 결정적인 영향을 미쳐 논란이 되고 있습니다. 살인 사건의 피해자가 가해자를 용서하는 내용의 AI 조작 영상이 법정에 제출된 후, 법원이 살인범의 형량을 뒤집는 판결을 내린 것입니다. 이는 AI 생성 콘텐츠가 실제 사법 시스템에 개입하여 중대한 영향을 미친 첫 사례 중 하나로 기록될 전망입니다.
해당 사건은 멕시코 베라크루스주에서 발생했으며, 가해자는 살인 혐의로 기소되었습니다. 재판 과정에서 변호인 측은 피해자가 직접 가해자를 용서하는 듯한 내용의 영상을 증거로 제출했습니다. 이 영상은 딥페이크(deepfake) 기술을 활용해 피해자의 얼굴과 목소리를 재현한 것으로 알려졌습니다. 법원은 이 영상의 진위 여부를 충분히 검토하지 않은 채 증거로 채택했고, 결국 가해자의 형량을 감경하는 판결을 내렸습니다. 이후 영상이 AI로 조작된 것임이 밝혀지면서, 상급 법원은 이 판결을 취소하고 재심을 명령했습니다.
이번 사건은 법정에서 AI 생성 콘텐츠의 신뢰성과 오용 가능성에 대한 심각한 경고음을 울리고 있습니다. 딥페이크 기술은 실제와 거의 구별할 수 없는 수준의 정교한 영상과 음성을 만들어낼 수 있어, 증거 조작이나 여론 조작에 악용될 위험이 꾸준히 제기되어 왔습니다. 특히 사법 시스템에서는 증거의 진실성이 무엇보다 중요한데, AI 기술이 이를 훼손할 수 있다는 점이 명확히 드러난 것입니다. 앞으로 법원과 수사 기관은 AI 생성 콘텐츠의 진위 여부를 판별할 수 있는 기술적, 제도적 장치를 시급히 마련해야 할 필요성이 커졌습니다. 또한, AI 기술의 윤리적 사용과 규제에 대한 사회적 논의가 더욱 활발해질 것으로 예상됩니다.