유명 수학자 안드레아스 톰(Andreas Thom)이 OpenAI의 챗GPT(ChatGPT)가 미공개 수학 연구 내용을 학습하거나 추론에 활용했을 가능성에 대해 강한 의문을 제기하며 논란이 일고 있습니다. 톰 교수는 OpenAI가 최근 발표한 비소픽 군(non-sofic group) 관련 수학적 발견이 자신과 동료들이 챗GPT에서 논의했던 미공개 연구와 관련이 있을 수 있다고 주장합니다. 그는 OpenAI 측에 관련 문의를 했으나, 학습 데이터 편입과 문제 풀이 중 접근 여부를 명확히 구분하지 않은 모호한 답변을 받았다고 비판했습니다.
톰 교수는 수개월간 드레스덴 동료들과 확장자 매칭 문제(expander matching problem) 및 가보르 쿤(Gabor Kun)과의 공동 연구 확장 방안을 챗GPT에서 논의했습니다. OpenAI의 마크 셀크(Mark Sellke)는 "그런 일은 없었다"고 답했지만, 톰 교수는 이 답변이 문제 풀이 중 직접 접근만 부인한 것일 수 있다고 의심합니다. 그는 OpenAI가 또 다른 사례인 벅마스터-알푀게(Buckmaster–Alpöge) 논란에서 특정 사용자 데이터에 직접 접근하지 않았다고 밝히면서도, 비식별화된 데이터가 모델 개선에 기여했을 가능성은 배제하지 않았던 점을 지적하며 투명성 부족을 비판했습니다. 이러한 불투명성은 AI가 새로운 수학적 결과를 도출하는 이점보다 수학 공동체의 협력 과정에 더 큰 피해를 줄 수 있다고 우려를 표했습니다.
이번 논란은 대규모 언어모델(LLM)이 방대한 데이터를 학습하고 새로운 지식을 생성하는 과정에서 발생하는 윤리적, 법적 문제를 수면 위로 끌어올렸습니다. 특히 미공개 연구나 저작권이 있는 콘텐츠가 AI 학습에 사용될 경우, 원작자의 권리 침해와 공정한 기여 인정 문제가 발생할 수 있습니다. AI 기술 발전이 가속화될수록, AI 개발사들은 데이터 활용 정책의 투명성을 강화하고 연구자들과의 신뢰를 구축하기 위한 명확한 가이드라인을 제시해야 할 필요성이 커지고 있습니다. 이는 AI가 인류 지식 발전에 기여하는 동시에, 기존 연구 생태계와의 조화를 이루는 데 필수적인 과제입니다.