최근 발표된 연구에 따르면, 현재 상업적으로 활용되는 인공지능(AI) 탐지기들이 학술 부정행위를 정확히 가려내지 못하며, 오히려 AI를 활용한 정직한 편집조차 부정행위로 오인할 위험이 크다는 사실이 밝혀졌습니다. 이는 대학 등 교육기관이 AI 탐지기를 학술 윤리 검증의 독립적인 증거로 활용하는 정책에 심각한 결함이 있음을 시사합니다.
조나단 A. 카 주니어(Jonathan A. Karr Jr) 외 연구진이 발표한 논문은 출판된 영어 초록을 대상으로 한 통제된 연구 결과를 제시합니다. 연구에 따르면, AI가 가볍게 '초록만 다듬은' 경우(가이드라인을 준수한 AI 활용의 대리 지표)에도 팡그램(Pangram)과 GPT제로(GPTZero) 같은 AI 탐지기들은 64~80%의 높은 확률로 이를 AI 작성물로 플래그했습니다. 반면, 2023년에서 2025년 사이에 작성된 원본 중 AI의 개입이 전혀 없는 글도 9~15%가 AI 작성물로 오인되었으며, 특히 비(非) STEM 분야에서 이러한 오탐지율이 훨씬 높게 나타났습니다. 이는 긴 토큰(long-token)과 학술 어휘 목록(Academic Word List) 밀도와 관련이 있었고, 단순히 작성 의도만으로 AI 여부를 판단하기 어렵다는 것을 보여줍니다.
더욱이, '언디텍터블 AI(Undetectable AI)'와 같은 AI 휴머나이저(humanizer)를 사용해 AI가 작성한 글을 '인간화'하면, AI 탐지 회피율이 96%를 넘어 거의 완벽하게 탐지를 피할 수 있었습니다. 이는 정직하게 AI 편집 도구를 사용한 학생이 오히려 더 높은 제재 위험에 처하고, 악의적으로 AI 휴머나이저를 사용한 부정행위는 쉽게 적발되지 않는 역설적인 상황을 초래합니다. 따라서 AI 탐지기 점수만을 근거로 학술 부정행위를 판단하는 것은 부당하며, 교육기관은 AI 활용에 대한 보다 정교하고 현실적인 정책을 마련해야 할 필요가 있습니다.