미국 사우스캐롤라이나 대학교의 대니얼 헤르난데스(Daniel Hernandez) 교수가 최근 중간고사에서 인공지능(AI) 챗봇 사용을 적발하기 위한 독특한 방법을 사용했습니다. 그는 시험 문제 중 하나에 미묘한 함정을 심어두었는데, 이 함정은 AI 챗봇이 특정 질문에 대해 일관되게 잘못된 정보를 생성하도록 설계된 것이었습니다. 이 시험에는 90명의 학생이 응시했습니다.
헤르난데스 교수는 학생들이 AI 챗봇을 사용하면 특정 질문에 대해 존재하지 않는 개념이나 잘못된 정보를 인용할 것이라고 예상했습니다. 실제로 시험 결과, 응시 학생의 97%에 해당하는 88명이 AI 챗봇이 만들어낸 동일한 오류를 범했습니다. 이들은 실제로는 존재하지 않는 개념인 '환각(hallucination)'을 인용하며 AI 사용을 명백히 드러냈습니다. 교수는 이 학생들에게 0점을 부여하고, AI 사용에 대한 경고와 함께 재시험 기회를 제공했습니다.
이번 사례는 교육 현장에서 AI의 오용 문제를 어떻게 다룰 것인지에 대한 중요한 질문을 던집니다. AI 기술이 발전하면서 학생들의 학습 방식과 평가 방법에 대한 근본적인 변화가 요구되고 있습니다. 단순히 AI 사용을 금지하는 것을 넘어, AI를 윤리적으로 활용하고 비판적 사고력을 키울 수 있는 교육 방안 마련이 시급해 보입니다. 이는 교육자들이 AI 시대에 맞춰 새로운 교육 패러다임을 모색해야 함을 시사합니다.