인공지능(AI)이 수학 분야에서 인간의 능력을 압도하게 되면, 오히려 수학의 발전이 정체될 수 있다는 다소 역설적인 경고가 나왔습니다. OpenAI에서 열린 '수학의 미래' 논의에서 제기된 이 시나리오는 AI가 인간을 능가한다는 전제하에, 현재의 학술 보상 시스템이 그대로 유지될 경우 발생할 수 있는 위험을 상상한 것입니다. AI가 논문을 쏟아내고 증명을 자동화하는 시대에, 양적 성과만을 중시하는 현 제도가 수학의 질적 성장을 저해할 수 있다는 우려가 핵심입니다.
현재 수학계에서는 이미 AI로 인한 변화의 조짐이 나타나고 있습니다. 2021년 말 이후 아카이브(arXiv)에 올라오는 조합론 논문 수가 급증하는 등 수학적 산출물은 폭증하고 있지만, 그 흥미로움, 정확성, 실질적인 검토 여부는 불분명합니다. 여러 연구팀과 AI 모델이 동시에 유사한 문제에 대한 증명을 내놓는 중복 작업도 빈번해지고 있습니다. 이러한 환경에서 기존의 논문 발표, 정리 증명, 추측 해결에 대한 보상 체계가 유지되면, 깊은 이해보다 AI를 활용한 결과물 양산이 경력에 유리한 전략이 될 수 있습니다. 심지어 진행 중인 연구 아이디어를 공개하는 것조차 AI가 먼저 완성할 위험 때문에 위축될 수 있다는 지적도 나옵니다.
이러한 변화는 수학계가 오랫동안 안고 있던 구조적 결함을 AI가 가속화하고 드러내는 계기가 될 수 있습니다. 자동 형식화(automatic formalization) 기술은 기존 문헌의 오류를 찾아 수정하는 데 기여하지만, 자연어 서술과 형식화된 결과 사이의 간극은 아이디어의 이해와 신뢰를 어렵게 만듭니다. 결국 고품질 과학, 인적 역량, 인간의 이해라는 수학의 본질적 가치는 변함없이 중요하지만, 이를 실현하는 보상 체계는 강력한 AI 시대에 맞춰 적응해야 한다는 결론에 이릅니다. 수학이 살아남아 번영할 것이라는 낙관은 여전하지만, 인간 수학자가 깊이 관여하고 다음 세대를 훈련시킬 지속 가능한 연구 환경을 만들기 위한 제도적 변화가 시급하다는 메시지입니다.