최근 NeurIPS, WACV, ECCV 등 주요 인공지능 학회에 제출된 연구 논문 22편 중 68%에 해당하는 15편에서 조작된 인용, 가짜 저자 목록, 명백한 대규모 언어모델(LLM) 생성 문장 등 심각한 문제가 발견되었습니다. 심지어 가짜 저자를 신고한 두 논문마저 참고문헌 수정 조건으로 구두 발표에 채택되는 충격적인 사례가 발생하며, 학술 연구의 신뢰성이 크게 위협받고 있습니다.
문제는 투고 논문에만 국한되지 않습니다. 2026년 ICLR 리뷰의 21%가 완전히 AI로 생성된 것으로 판정되었고, ICML 2026에서는 LLM 사용이 금지된 리뷰어 약 795명에게서 LLM 사용이 탐지되었습니다. 2025년에는 약 14만 6,900건의 환각 인용(hallucinated citation)이 학술 문헌에 포함된 것으로 추정되며, 이는 특정 악의적 행위자가 아닌 다수의 논문에 얇게 퍼져 있는 것으로 나타났습니다. 특히 경력 초기 연구자나 소규모 팀에서 환각 인용 포함 가능성이 높았고, bioRxiv 프리프린트의 환각 인용 중 85.3%는 심사를 통과한 출판본에도 그대로 남아 있었습니다. 이러한 현상은 참고문헌 오류, 본문과 표의 수치 불일치, 과도한 성과 홍보 등 논문이 충분히 검토되지 않았다는 명확한 신호로 지적됩니다.
이러한 상황은 학술 생태계 전반에 걸쳐 심각한 영향을 미치고 있습니다. 리뷰어들은 LLM 생성 흔적을 찾는 데 더 많은 시간을 할애하게 되었고, 논문이 선의로 제출되었다는 전제 자체가 약해지고 있습니다. 무급으로 진행되는 심사 부담이 가중되는 가운데, 환각 인용을 뒤늦게 발견하면 그간의 노력이 낭비되는 악순환이 반복됩니다. 비록 LLM 사용 자체는 문제가 아니지만, 검증되지 않은 LLM 출력을 그대로 제출하여 리뷰어에게 피드백을 요구하는 행위가 핵심적인 문제로 지적됩니다. 학계는 저자, 지도자, 학회 모두에게 책임이 있음을 강조하며, 대규모 투고 속에서 AI 생성 논문을 걸러낼 효과적인 방법과 출판 인센티브 구조 개선이 시급하다고 말합니다. 참고문헌 자동 감사 도구인 'bib-audit'가 공개되었지만, 비공개 투고문의 일부를 호스팅된 LLM에 보내는 방식이어서 학회별 기밀성 및 LLM 정책 확인이 필요합니다.