수학계의 오랜 난제 중 하나인 '야코비안 추측(Jacobian Conjecture)'이 최근 인공지능(AI)의 도움을 받아 3차원 이상에서 거짓임이 밝혀졌습니다. 이 추측은 복소수 공간에서 야코비안 행렬식(Jacobian determinant)이 0이 아닌 상수인 다항식 함수는 역함수를 가진다는 내용입니다. 이는 함수의 '국소적 가역성(locally invertible)'이 '전역적 가역성(globally invertible)'을 의미하는지 묻는 질문과 같습니다.
필즈상 수상자인 테렌스 타오(Terence Tao) 교수는 자신의 블로그를 통해 Fable AI를 활용하여 3차원 다항식 함수에서 야코비안이 0이 아닌 상수임에도 불구하고 역함수가 존재하지 않는 반례(counterexample)를 발견했다고 설명했습니다. 이 반례는 특정 7차 다항식으로, 계산을 통해 야코비안이 상수임을 쉽게 확인할 수 있지만, 역함수가 존재하지 않아 추측이 틀렸음을 증명합니다. 이러한 반례는 무작위 대입(brute force) 방식으로는 찾기 매우 어려웠을 것이라고 타오 교수는 덧붙였습니다.
이번 발견은 순수 수학 분야에서 AI가 복잡한 문제 해결에 기여할 수 있음을 보여주는 중요한 사례입니다. 야코비안 추측은 대수 기하학(algebraic geometry)과 관련된 깊은 난제로, 수십 년간 많은 수학자들이 해결하려 노력해왔습니다. 3차원 이상에서는 거짓으로 판명되었지만, 2차원에서의 야코비안 추측은 여전히 미해결 상태로 남아있어 수학자들의 새로운 도전 과제가 될 것입니다. AI가 이러한 난제 해결의 새로운 도구가 될 수 있음을 시사하며, 앞으로 AI와 수학 연구의 협력이 더욱 활발해질 것으로 기대됩니다.