오픈AI가 최근 수백 개의 난해한 수학 문제에 대한 해답을 발표했지만, 수학계 전문가들로 구성된 자문 그룹의 권고 기준에 미치지 못했다는 비판에 직면했습니다. 프린스턴 고등연구소(Institute for Advanced Studies)가 주관하는 수학 및 인공지능 자문 그룹(AGMAI)은 AI 연구소가 수학 문제를 해결할 때 지켜야 할 가이드라인을 제시했지만, 오픈AI의 접근 방식은 특히 '인간의 이해'와 '결과의 책임성' 측면에서 미흡하다는 지적입니다.
AGMAI는 독점 모델로 고급 수학 문제를 테스트하는 것을 중단하고, 모델이 도출한 결론에 대한 인간의 이해를 보장할 것을 요청했습니다. 그러나 오픈AI는 자사 독점 모델을 사용했으며, 719개의 증명 중 단 10개만이 모델의 사고 과정(chain of thought)을 포함했습니다. 또한, 증명의 42%만이 형식화(formalization) 과정을 거치지 않아, 자연어(natural language)로 된 설명과 실제 코드 기반의 증명(Lean) 사이에 불일치가 발생할 수 있다는 우려가 제기되었습니다. 이는 케임브리지 대학과 킹스 칼리지 런던의 수학자들이 발표한 논문에서도 나비에-스토크스(Navier-Stokes) 방정식 관련 문제에서 이러한 불일치 사례를 지적하며, AI가 자체적으로 해답을 형식화하는 과정에 인간의 개입이 필요함을 강조했습니다.
이러한 문제는 AI가 수학적 발견을 하는 방식의 본질적인 한계를 드러냅니다. 인간 수학자들은 새로운 결과를 발견하면 논문, 강연, 세미나를 통해 커뮤니티와 소통하며 이해를 높이고 다른 문제 해결에 적용될 전략을 찾습니다. 하지만 AI가 내놓은 해답은 그 시점에서 인간의 이해가 부족하며, 누가 그 결과에 대한 책임을 지고 더 넓은 분야에 기여할 것인지에 대한 의문을 남깁니다. AGMAI는 오픈AI가 이러한 솔루션을 의미 있게 만들 인간 수학자들의 연구에 자금을 지원해야 한다고 제안하며, AI가 단순히 문제를 푸는 것을 넘어 진정한 지식 생산에 기여하기 위한 방향을 제시하고 있습니다.