수학 분야에서 중요한 추측(conjecture)을 발견하는 일은 여전히 소수의 천재적인 수학자들의 직관에 크게 의존하고 있습니다. 하지만 최근 발표된 연구에 따르면, 대규모 언어모델(LLM)을 활용하여 이러한 수학적 난제를 체계적으로 생성하고 검증하는 새로운 프레임워크가 제시되어 학계의 주목을 받고 있습니다. 이 연구는 인공지능이 리만 가설(Riemann Hypothesis)과 같은 다음 세대의 주요 수학적 추측을 발견하는 데 기여할 수 있는 가능성을 보여줍니다.
연구진은 '주요 추측 발견을 위한 LLM 프레임워크'라는 이름으로 세 단계의 파이프라인을 제안했습니다. 첫 번째 단계는 '지역 탐색(region search)'으로, 명시적인 지역 증거 모듈(explicit local evidence modules)을 통해 잠재적인 추측 영역을 탐색합니다. 두 번째 단계인 '반영적 검증(reflective validation)'에서는 발견된 추측의 기초성, 참신성, 잠재적 중요성을 평가합니다. 마지막 세 번째 단계는 '형식적 검증(formal validation)'으로, Lean 4와 Mathlib 같은 형식 검증 시스템을 사용하여 추측의 논리적 타당성을 엄격하게 확인합니다. 이 프레임워크의 목표는 '문제 취향(problem taste)'이 높은 수학 문제를 발견하는 것입니다. 여기서 문제 취향이란, 그 증명이 특정 연구 분야의 언어를 재구성하고 인간의 수학 연구에 지속적인 도움을 줄 수 있는 문제를 의미합니다. 20가지 후보 추측에 대한 실험 결과, 모든 후보가 Lean 파싱 및 타입 검사를 통과하고, 기존 자동 증명 시스템으로 쉽게 해결되지 않으며, 명백한 중복이 없는 것으로 나타나 프레임워크의 안정성을 입증했습니다.
이 연구는 인공지능이 단순한 계산 도구를 넘어, 추상적이고 창의적인 수학적 발견 과정에 적극적으로 참여할 수 있음을 시사합니다. LLM 기반 프레임워크는 수학자들이 새로운 연구 방향을 탐색하고, 복잡한 문제의 본질을 더 깊이 이해하는 데 강력한 보조 도구가 될 수 있습니다. 이는 궁극적으로 수학 연구의 속도를 가속화하고, 인간의 직관만으로는 도달하기 어려웠던 새로운 수학적 지평을 여는 데 기여할 것으로 기대됩니다. AI가 수학 난제 발견의 새로운 시대를 열 수 있을지 귀추가 주목됩니다.