오픈AI(OpenAI)가 복잡도 이론, 양자 계산, 알고리듬 등 다양한 수학 분야에서 372건의 난제를 해결했다고 공개하며 학계에 큰 파장을 일으켰습니다. 특히, 수십 년간 미해결 과제였던 유니크 게임즈 추측(Unique Games Conjecture, UGC)의 증명이 포함되어 있어, 인공지능(AI)의 수학적 추론 능력에 대한 기대와 우려가 교차하고 있습니다. 하지만 이 증명들이 인간이 이해하기 어렵고 불명확한 형태로 제시되어, AI의 성과를 해독하고 검증하는 것이 새로운 과제로 부상했습니다.
오픈AI는 자문 그룹의 권고에 따라 이 성과들을 대량 공개했으며, 일부 증명에는 린(Lean) 인증서가 있지만, 대부분은 아직 인간이 완전히 이해하지 못한 상태입니다. UGC를 오랫동안 연구해온 복잡도 이론 연구자 데이나 모시코비츠(Dana Moshkovitz)는 AI의 도움 없이는 논문을 읽기 어려울 정도로 서술이 불명확하고 구성이 생소하다고 토로했습니다. 이번 성과에는 확률적 로그 공간과 결정적 로그 공간이 같다는 L=BPL 결과, O(n log n) 장벽을 깬 정수 곱셈 알고리듬 개선 등 각 분야에서 올해의 결과로 꼽힐 만한 중요한 진전들이 포함되어 있습니다. 반면, 앤트로픽(Anthropic)은 AI 모델이 도출한 3SUM 및 모든 쌍 최단 경로 문제의 개선 결과를 연구자들에게 보수를 주고 사람이 이해할 수 있는 형태로 정리하여 발표하는 방식을 택해 오픈AI와 대조를 보였습니다.
이번 AI의 수학 난제 해결은 수학 공동체에 근본적인 질문을 던지고 있습니다. AI가 답을 내놓는 시대에 인간 수학자들은 증명에 이르는 경로를 탐구하려는 관심과 공동체를 어떻게 유지할 것인가 하는 문제입니다. 버클리(Berkeley)의 사이먼스 연구소(Simons Institute) 등에서는 연구자들이 AI가 제시한 원고를 읽고 이해하며 설명하는 작업에 착수했습니다. 이는 마치 순간이동으로 산 정상에 도착했지만 주변 지형이나 다른 산과의 연결, 탐험 도구를 모르는 상황에 비유될 수 있습니다. AI의 도움으로 안개를 걷고 정상까지의 경로를 이해하는 것은 가능하지만, 그 경로를 찾는 모험 자체에 대한 인간의 흥미를 지속시키는 것이 더 큰 도전으로 여겨지고 있습니다. AI의 능력을 인정하지 않거나 성과를 폄하하는 태도 또한 경계해야 할 부분으로 지적됩니다.