앤트로픽(Anthropic)의 AI 모델 클로드(Claude)가 1859년부터 이어진 수학계의 난제, 리만 가설(Riemann hypothesis)에 도전하여 예상치 못한 성과를 거두었습니다. 비록 리만 가설 자체를 증명하지는 못했지만, 리만 제타 함수(Riemann zeta function)의 영점(zeros) 중 리만 가설을 만족하는 비율의 하한을 기존 41.6%에서 67.2%로 크게 끌어올리는 데 성공했습니다. 이는 AI 모델의 수학적 추론 능력 발전 속도를 보여주는 최신 사례로 주목받고 있습니다.
클로드의 이번 성과는 앤트로픽의 직원 재러드 섬너(Jarred Sumner)가 '리만 가설을 풀어보라'는 단순한 지시를 내리면서 시작되었습니다. 초기 650가지 시도가 실패하자, 클로드는 60개의 서브 에이전트(subagents)를 동원하여 2,400개의 셸 명령과 수백 개의 파이썬 스크립트를 실행하며 이틀간 심층적인 탐색을 진행했습니다. 이 과정에서 클로드는 몽고메리(Montgomery)의 기술과 봄비에리(Bombieri)의 2000년 논문을 포함한 기존 수학자들의 광범위한 연구를 조합하여 새로운 접근법을 찾아냈습니다. 클로드는 스스로 논문을 작성하고, 아카이브(arXiv)에서 54편의 관련 논문을 검토하여 중복 여부를 확인하는 등 자율적인 검증 과정까지 거쳤습니다.
이번 연구는 클로드가 단순히 기존 지식을 종합하는 것을 넘어, 복잡한 수학적 문제를 해결하기 위한 새로운 통찰력을 제시할 수 있음을 보여줍니다. 비록 리만 가설의 완전한 증명에는 이르지 못했지만, 이러한 AI의 발전은 수학 연구 방식에 큰 변화를 가져올 잠재력을 가지고 있습니다. 인간 수학자들이 수십 년간 점진적으로 개선해 온 하한을 AI가 단기간에 크게 높였다는 점은, AI가 미래 과학 연구에서 강력한 보조 도구이자 새로운 발견의 주체가 될 수 있음을 시사합니다.
