오픈AI(OpenAI)가 최근 700편이 넘는 수학 연구 논문을 대거 공개하면서 수학계에 큰 파장을 일으켰습니다. 이는 인공지능(AI)이 수학 분야에서 획기적인 기여를 할 수 있음을 명백히 보여준 사건으로, 일부 수학자들은 자신들이 사랑하는 학문이 '공격받고 있다'거나 '속이 비어버렸다'는 위기감을 느끼고 있습니다. 하지만 테렌스 타오(Terence Tao) 교수의 블로그에 게재된 프랭크 칼레가리(Frank Calegari) 교수의 글은 이러한 변화를 슬퍼하기보다 새로운 기회로 받아들여야 한다고 주장합니다.
칼레가리 교수는 AI가 쏟아낸 결과물 중 일부가 형식이나 정확성 면에서 미흡할 수 있음을 인정하면서도, 이러한 변화에 대한 수학계의 반응이 지나치게 감정적이라고 지적합니다. 그는 AI가 랭글랜즈 프로그램(Langlands program)과 같은 거대한 난제를 해결하더라도, 그것이 곧 '수학이 끝났다'는 의미는 아니라고 강조합니다. 마치 주기율표의 발견이 화학을 끝내지 않았듯, 난제의 해결은 새로운 탐구 영역을 여는 첫걸음이라는 것입니다. 실제로 AI가 건드리지 않은 주요 미해결 문제들이 많으며, 설령 AI가 특정 분야의 모든 문제를 해결한다 해도 이는 더 깊고 근본적인 질문으로 나아갈 기회가 될 수 있습니다.
이러한 상황은 1970년대 유한 단순군 분류(Classification of finite simple groups) 연구와 유사합니다. 당시 댄 고렌스타인(Dan Gorenstein)이 분류 프로그램을 발표하고 10여 년 만에 '분류'가 완료되자, 해당 분야에 대한 관심이 식어버린 사례가 있습니다. 하지만 그 이후에도 유한군 이론에는 존 콘웨이(John Conway)의 '몬스터 군(Monster group)은 왜 존재하는가?'와 같은 풍부한 질문들이 남아있습니다. 칼레가리 교수는 AI의 등장이 수학자들에게 기존의 익숙한 경로를 벗어나 새로운 관점으로 문제를 탐색하고, 더 깊은 미스터리를 파헤치도록 영감을 줄 것이라고 말합니다. AI가 제시하는 해답을 바탕으로 새로운 질문을 던지고, 미지의 수학적 구조를 탐험하는 데 집중해야 한다는 것입니다. 이는 수학 교육과 연구 방식, 그리고 학계의 보상 체계까지도 변화시켜야 할 중대한 과제를 제시합니다.