최근 OpenAI가 수학 분야에서 놀라운 성과를 발표하며 학계의 주목을 받았지만, 동시에 훈련 데이터 사용의 투명성 문제로 거센 비판에 직면했습니다. 뉴욕대학교 수학 교수 트리스탄 벅마스터(Tristan Buckmaster)가 OpenAI의 코덱스(Codex) 사용이 모델 개선에 기여했는지 의문을 제기한 데 이어, 수학자 안드레아스 톰(Andreas Thom)도 자신의 비공개 연구가 OpenAI의 대규모 언어모델(LLM) 학습에 사용되었을 가능성을 제기하며 '부정직한' 태도라고 비난했습니다.
톰 교수는 OpenAI가 대대적으로 발표한 10가지 수학적 성과 중 하나인 '비-소픽 군(non-sofic groups)' 연구가 자신의 전문 분야와 밀접하게 관련되어 있으며, OpenAI가 해당 결과가 자신과 가보르 쿤(Gábor Kun)의 이전 연구에 크게 기반하고 있음을 인정했다고 밝혔습니다. 그는 챗GPT(ChatGPT)와의 상호작용이 훈련 데이터에 포함되었거나 추론 과정에 접근 가능했는지 OpenAI 연구진에게 문의했지만, 돌아온 답변은 챗봇 대화의 직접적인 접근 여부만 다룰 뿐, 방대한 훈련 데이터 풀에 포함되었는지에 대한 명확한 설명이나 증거를 제공하지 않았습니다. 톰 교수는 OpenAI가 자신들의 기술에 대해 '놀랍도록 상세한 이해'를 보였다는 점에 주목하며, 이는 당시 가장 명확하거나 유망한 해결책이 아니었음에도 불구하고 자신들의 기법을 사용했다는 점에서 의혹을 더했습니다.
OpenAI는 나비에-스토크스(Navier-Stokes) 방정식 해결과 관련해서도 '특정 사용자 데이터는 사용하지 않았다'고 부인하면서도, '비식별화된(de-identified) 사용자 데이터가 모델 개선에 기여했을 가능성은 배제할 수 없다'는 모호한 입장을 보였습니다. 톰 교수는 이러한 '비식별화'가 이름만 제거할 뿐 수학적 아이디어의 지적 내용을 제거하지는 않는다고 지적하며, 동의나 적절한 공개, 출처 표기 없이 비공개 연구가 모델 개선에 사용되어 사용자들과의 출판 경쟁에 활용된다면 '윤리적으로 옹호할 수 없다'고 강조했습니다. 이러한 논란은 수학계에 OpenAI에 대한 불신을 키우고 있으며, 연구자들이 대규모 기술 기업과의 경쟁을 우려해 연구 결과를 더욱 비밀스럽게 다루게 될 수 있다는 우려를 낳고 있습니다.