최근 뉴욕타임스(The New York Times)의 한 기자가 자신도 모르는 사이에 인공지능(AI)이 작성한 자서전이 온라인 서점에 출판된 충격적인 경험을 공유했습니다. 이 기자는 자신의 이름으로 된 책이 아마존(Amazon)에 버젓이 판매되고 있는 것을 발견했으며, 책 내용은 온라인에 공개된 자신의 기사와 인터뷰, 소셜 미디어 게시물 등을 AI가 무단으로 수집하고 재구성한 것이었습니다. 저자는 이 책을 읽지 말 것을 강력히 권고하며, AI가 생성한 정보의 신뢰성과 윤리적 문제를 제기했습니다.
해당 AI 자서전은 기자의 실제 삶과는 동떨어진 허위 정보와 왜곡된 사실을 포함하고 있었습니다. 예를 들어, 기자가 한 번도 가본 적 없는 장소에서 강연을 했다거나, 하지 않은 말을 인용한 부분들이 발견되었습니다. 이는 AI가 인터넷상의 파편적인 정보를 짜깁기하는 과정에서 맥락을 오해하거나 사실을 잘못 조합하여 발생한 문제로 보입니다. 더욱이, 이러한 무단 자서전이 상업적인 목적으로 판매되고 있다는 점은 저작권 침해와 인격권 침해 논란을 불러일으키고 있습니다. 현재 아마존을 비롯한 여러 플랫폼에서 AI가 생성한 저품질 또는 무단 콘텐츠가 급증하고 있어, 플랫폼의 콘텐츠 관리 책임에 대한 목소리도 커지고 있습니다.
이 사건은 AI 기술 발전이 가져올 수 있는 심각한 윤리적, 법적 문제를 단적으로 보여줍니다. 개인의 동의 없이 온라인 데이터를 수집하여 새로운 콘텐츠를 생성하고 이를 상업적으로 이용하는 행위는 기존의 저작권법과 초상권, 인격권 등 여러 법적 보호 장치와 충돌할 수 있습니다. 특히, AI가 만들어낸 허위 정보가 마치 사실인 양 유포될 경우 개인의 명예를 훼손하고 사회적 혼란을 야기할 수 있다는 점에서 심각성이 큽니다. 앞으로 AI 생성 콘텐츠에 대한 명확한 가이드라인과 법적 규제 마련이 시급하며, AI 개발자와 플랫폼 운영자, 그리고 콘텐츠 소비자 모두가 이러한 문제에 대한 인식을 높여야 할 것입니다.