유럽연합(EU)이 인공지능(AI) 챗봇 및 딥페이크 콘텐츠를 쉽게 식별할 수 있도록 하는 새로운 투명성 규제를 8월 2일부터 시행했습니다. 이는 EU의 획기적인 AI 법(AI Act)에 따른 조치로, 기업들은 사용자가 AI 모델과 상호작용하거나 AI가 생성 또는 조작한 콘텐츠를 접할 때 이를 명확히 공개해야 할 의무를 갖게 됩니다.
새로운 규제는 AI 시스템을 개발하고 판매하는 '제공자(providers)'와 이를 사용하는 플랫폼 및 서비스인 '배포자(deployers)'에게 각기 다른 의무를 부과합니다. 제공자는 AI 시스템이 인간이 아닌 AI와 상호작용 중임을 명시적으로 알려야 하며, 합성 오디오, 이미지, 비디오, 텍스트에는 인공적으로 생성되거나 조작되었음을 감지할 수 있는 기계 판독 가능한 표시를 포함해야 합니다. 배포자 역시 실제처럼 보이도록 설계된 AI 생성 또는 조작된 이미지, 오디오, 비디오 딥페이크 콘텐츠에 라벨을 부착해야 합니다. 유럽위원회(European Commission)는 기업들이 자체 라벨을 디자인하는 대신 사용할 수 있는 AI 공개 라벨 세트도 개발했습니다. 이 라벨은 틱톡(TikTok), 인스타그램(Instagram), 페이스북(Facebook) 등에서 이미 도입된 유사한 라벨과 일치하며, EU가 제공하는 라벨 사용은 선택 사항이지만, 라벨링 요구 사항 자체는 의무입니다. 이 규정을 준수하지 않을 경우, 기업은 최대 1,500만 유로(약 1,720만 달러) 또는 전 세계 연간 매출의 3%에 해당하는 벌금을 물게 됩니다. 8월 2일 이전에 출시된 AI 시스템 및 서비스에는 12월 2일까지 4개월의 유예 기간이 주어집니다.
이번 EU의 AI 투명성 규제는 빠르게 발전하는 생성형 AI 및 대화형 AI 시스템으로 인해 AI 상호작용과 AI 생성 콘텐츠를 인간이 만든 콘텐츠와 구별하기 어려워지는 문제를 해결하기 위함입니다. 사용자가 AI와 상호작용하거나 AI 생성 콘텐츠에 노출될 때 이를 인지함으로써 정보에 입각한 결정을 내리고, AI에 대한 신뢰도를 조절하며, 잘못된 정보나 기만에 빠지는 것을 방지할 수 있도록 돕는 것이 핵심 목표입니다. 이는 AI 기술의 책임 있는 개발과 배포를 촉진하고, 디지털 환경에서의 투명성과 사용자 보호를 강화하는 중요한 발걸음이 될 것입니다.