한국 정부가 온라인 커뮤니티에 인공지능(AI) 기반의 이미지 검열 시스템 도입을 의무화하는 법안을 추진하면서 논란이 일고 있습니다. 이는 '불법 촬영물 등 유포 방지'를 목적으로, 웹사이트에 올라오는 모든 이미지를 AI로 스캔하여 불법 콘텐츠를 탐지하고 차단하려는 움직임입니다.
이 법안은 특히 성범죄 관련 불법 촬영물 유포를 근절하기 위한 강력한 조치로 해석됩니다. 커뮤니티 운영자는 게시되는 모든 이미지를 AI 기반 도구로 실시간 검사해야 하며, 이를 통해 불법 콘텐츠가 발견될 경우 즉시 삭제하고 관련 정보를 수사기관에 제공해야 할 의무를 지게 됩니다. 이 과정에서 AI 기술의 정확성과 오탐(false positive) 문제, 그리고 이를 위한 서버 및 개발 비용 부담이 커뮤니티 운영자들에게 전가될 것이라는 우려가 제기되고 있습니다.
이러한 의무화는 불법 촬영물 근절이라는 긍정적인 목표를 가지고 있지만, 동시에 여러 가지 중대한 문제를 야기할 수 있습니다. 첫째, 모든 이미지를 AI로 검열하는 과정에서 사용자들의 표현의 자유가 위축될 수 있다는 지적입니다. 둘째, AI 검열 시스템 구축 및 유지에 드는 막대한 비용과 기술적 부담이 중소 규모 온라인 커뮤니티나 1인 운영자에게는 큰 진입 장벽으로 작용할 수 있습니다. 셋째, AI의 오탐으로 인해 합법적인 콘텐츠가 차단되거나, 개인 정보가 불필요하게 수집될 가능성도 배제할 수 없습니다. 이는 기술적 해결책이 사회적, 윤리적 문제를 어떻게 다룰 것인지에 대한 중요한 질문을 던지고 있습니다.