앤트로픽(Anthropic)이 미공개 대규모 언어모델(LLM)을 활용해 150년 이상 미해결 난제로 남아있는 수학의 리만 가설(Riemann hypothesis)에 의미 있는 진전을 이뤘다고 발표했습니다. 이는 AI가 복잡한 수학적 문제를 해결하는 데 예상보다 훨씬 큰 잠재력을 가지고 있음을 보여주며, AI의 과학 및 수학적 발견 능력에 대한 오랜 질문을 다시 불러일으키고 있습니다.
이번 성과는 수학적 훈련이 없는 앤트로픽 직원이 AI 모델에 리만 가설 증명을 시도하도록 지시한 후, 모델이 1.5일 동안 60개의 하위 에이전트(subagent)를 조정하며 650가지 아이디어를 탐색한 결과입니다. 이 과정에서 총 3,100만 개의 출력 토큰(output token)이 사용되었으며, 특히 두 개의 하위 에이전트가 핵심 수학적 아이디어를 개발했습니다. 앤트로픽 내부 수학자들의 검증을 거쳐 오픈소스 증명 보조 도구인 린(Lean)으로 공식화된 이 결과는, 리만 가설이 참이 되는 해법의 하한선(lower bound)을 크게 높였습니다.
최근 몇 년간 LLM은 에르되시 문제(Erdos problems) 해결, 야코비안 추측(Jacobian conjecture) 반증 등 여러 수학적 돌파구를 만들어왔습니다. 이러한 AI의 발전은 수학계에 흥분과 동시에 우려를 낳고 있습니다. 일부 저명한 수학자들은 AI가 발견의 주체와 책임 소재를 모호하게 하여 수학 분야의 핵심 가치를 훼손할 수 있다고 경고하는 반면, 필즈상 수상자 티머시 가워스(Timothy Gowers)와 같은 이들은 AI가 수학을 더욱 복잡하고 긍정적인 방향으로 변화시킬 수 있다고 주장하며 새로운 연구 기술에 대한 개방적인 접근을 강조하고 있습니다. AI의 역할에 대한 논의는 앞으로도 계속될 전망입니다.