이란의 공작원들이 인공지능(AI) 챗봇인 챗GPT(ChatGPT)를 이용해 생성한 가짜 기사를 미국 언론 매체에 대량으로 유포한 사실이 밝혀져 충격을 주고 있습니다. 오픈AI(OpenAI)에 따르면, 이란 내 사용자들이 챗GPT로 작성한 약 100건의 기사가 최소 20개 미국 언론 매체에 게재되었으며, 이는 AI를 활용한 여론 조작의 새로운 양상을 보여줍니다.
이번 사건은 플로리다의 소규모 주간지 '포트 세인트 조 스타(Port St. Joe Star)'에 '어빈 호스킨스(Ervin Hoskins)'라는 가명으로 이란 전쟁의 비용을 경고하는 기고문이 실리면서 드러났습니다. 동일한 명의의 전쟁 비판 기고문은 '데일리 코스(Daily Kos)'와 '미들 이스트 모니터(Middle East Monitor)'와 같이 페이스북(Facebook) 팔로워가 합계 300만 명이 넘는 더 큰 온라인 매체에도 게재되었습니다. 오픈AI는 이 모든 기고문이 이란에 있는 이용자들이 챗GPT를 이용해 생성한 것이며, 이는 여론 공작의 일환이라고 설명했습니다. 가짜 계정과 허위 기고문 자체가 새로운 현상은 아니지만, AI가 글쓰기를 대신하고 내용을 기록하며, 자체 판단에 따라 당국과 언론에 알리는 '극도로 중앙화된 도구'로 활용되었다는 점이 주목됩니다.
이번 사건은 생성형 AI 기술이 가짜 뉴스 및 선전 활동에 악용될 수 있음을 명확히 보여줍니다. 특히 AI를 활용함으로써 공작 활동에 드는 비용이 급격히 낮아져, 소규모 주체도 대규모 여론 조작을 시도할 수 있게 되었다는 점이 큰 문제입니다. 이는 언론의 검증 시스템에 대한 근본적인 질문을 던지며, 독자들이 콘텐츠의 출처와 진위를 더욱 비판적으로 검토해야 할 필요성을 강조합니다. 또한, AI 시스템 자체를 오염시켜 허위 정보가 AI의 학습 과정에 반영될 수 있다는 우려도 제기되고 있어, AI 개발사들의 책임 있는 대응과 함께 사회 전반의 미디어 리터러시 강화가 시급해 보입니다.