최근 브레넌 정의 센터(Brennan Center for Justice)의 연구 결과에 따르면, 구글(Google)의 제미니(Gemini), 오픈AI(OpenAI)의 챗GPT(ChatGPT), 마이크로소프트(Microsoft)의 코파일럿(Copilot) 등 주요 인공지능(AI) 챗봇들이 AI 생성 이미지를 탐지하는 능력이 여전히 매우 미흡한 것으로 드러났습니다. 특히 미국 대선을 앞두고 딥페이크(deepfake) 등 AI 기반 허위 정보의 확산 가능성이 커지면서, 이러한 챗봇의 한계는 심각한 문제로 지적되고 있습니다.
연구팀은 챗봇에 다양한 AI 생성 이미지를 제시하고, 해당 이미지가 AI로 만들어졌는지 여부를 질문했습니다. 그 결과, 챗봇들은 대부분의 경우 AI 생성 이미지를 실제 사진과 구분하지 못했으며, 심지어 이미지 조작 여부를 묻는 질문에도 정확한 답변을 내놓지 못했습니다. 이는 AI 기술 발전 속도에 비해 이를 탐지하고 규제하는 노력이 뒤처지고 있음을 보여주는 사례로, 특히 선거와 같은 중요한 시기에 유권자들의 판단을 흐리게 할 수 있다는 점에서 우려가 큽니다.
이러한 챗봇의 취약점은 단순한 기술적 결함을 넘어 사회 전반의 신뢰를 위협할 수 있습니다. AI 생성 이미지가 실제 사건처럼 유포되거나 특정 후보에 대한 허위 사실을 퍼뜨리는 데 악용될 경우, 민주주의의 근간을 흔들 수 있기 때문입니다. 따라서 AI 개발사들은 기술적 개선을 통해 AI 생성 콘텐츠를 더 효과적으로 식별하고, 사용자들에게 명확한 정보를 제공할 수 있도록 노력해야 할 것입니다. 동시에 정부와 시민 사회는 AI 기술의 오남용을 막기 위한 법적, 제도적 장치를 마련하고, 대중의 미디어 리터러시(media literacy) 교육을 강화하는 등 다각적인 접근이 필요합니다.