인공지능(AI) 기술이 빠르게 발전하면서, AI가 작성한 글을 탐지하는 도구들이 교육기관과 출판업계에서 널리 사용되고 있습니다. 하지만 이러한 AI 탐지기들이 오히려 불신과 혼란을 야기하며 새로운 문제를 만들어내고 있다는 지적이 나오고 있습니다. 특히 AI 탐지 도구의 낮은 정확도와 편향성으로 인해 무고한 사람들이 피해를 보는 사례가 늘면서, 그 효용성에 대한 의문이 커지고 있습니다.
과거 표절 검사 도구처럼, AI 탐지기(AI detector)는 챗GPT(ChatGPT), 구글 제미니(Google Gemini) 등 생성형 AI의 등장과 함께 빠르게 확산되었습니다. 미국 6~12학년 교사 중 43%가 2024~2025년 사이에 AI 탐지기를 정기적으로 사용했다는 조사 결과도 있습니다. 턴잇인(Turnitin), GPT제로(GPTZero), 팽그램(Pangram) 같은 도구들은 텍스트의 어조, 구조, 반복성 등을 분석해 AI 작성 여부를 추측합니다. 하지만 이러한 분석은 주관적이며, 비영어권 화자나 특정 글쓰기 스타일을 가진 사람들의 글을 AI로 오인하는 경향이 있습니다. 스탠퍼드(Stanford) 연구에 따르면, 비영어권 학생들의 에세이가 AI로 오탐지되는 경우가 더 많았으며, 신경다양성(neurodivergent)을 가진 작가들에게도 편향될 수 있다는 지적도 있습니다.
이러한 오탐지는 실제 삶에 심각한 영향을 미치고 있습니다. 한 작가는 AI 사용 의혹으로 200만 달러 규모의 출판 계약이 파기되었고, 예일(Yale)대 학생은 AI 작성 혐의로 낙제와 정학 처분을 받았다가 소송을 제기하기도 했습니다. 비록 턴잇인 등 일부 서비스는 오탐지율이 1% 미만이라고 주장하지만, 동시에 '항상 정확하지 않을 수 있으므로 학생에게 불이익을 주는 데 단독으로 사용해서는 안 된다'고 경고합니다. 오픈AI(OpenAI)조차 낮은 정확도를 이유로 2023년에 자체 AI 탐지기를 중단했습니다. AI 탐지 기술의 불완전함에도 불구하고, 이를 맹신하여 중요한 결정을 내리는 관행은 개인의 학업과 경력에 돌이킬 수 없는 피해를 줄 수 있으며, 사회 전반의 신뢰를 저해하는 결과를 초래하고 있습니다.
결국 AI 탐지기는 AI가 가져온 편리함 뒤에 숨겨진 또 다른 윤리적, 사회적 문제를 드러내고 있습니다. 기술의 발전에 발맞춰 이를 현명하게 활용하고 오용을 막기 위한 사회적 합의와 신중한 접근이 필요합니다. 단순히 AI 탐지 기술에 의존하기보다는, AI 시대에 맞는 새로운 평가 방식과 교육 철학을 고민해야 할 시점입니다.