인공지능(AI) 분야의 선구자이자 강화 학습(reinforcement learning)의 대가인 리처드 서튼(Richard Sutton) 앨버타 대학교 교수가 최근 영상 강연을 통해 생성형 AI(Generative AI)의 근본적인 한계에 대해 비판적인 시각을 제시했습니다. 그는 현재의 대규모 언어모델(LLM)을 포함한 생성형 AI가 '새롭고 좋은' 결과물을 동시에 만들어내지 못하며, 이는 과학적 발견이나 진정한 창의성에는 적합하지 않다고 주장했습니다.
서튼 교수는 생성형 AI가 방대한 학습 데이터(training data)를 모방(mimic)하는 데 탁월하지만, 그 결과물은 '새롭거나(novel)' '좋거나(good)' 둘 중 하나일 뿐이라고 설명했습니다. 예를 들어, AI가 학습 데이터에 없는 새로운 내용을 만들어내면 이는 '환각(hallucination)'으로 간주되어 신뢰성이 떨어지고, 반대로 학습 데이터를 충실히 반영하면 '좋지만' 새로운 것은 아니라는 것이죠. 이는 마치 연구 평가에서 '새롭지만 좋지 않거나, 좋지만 새롭지 않은' 결과물에 대한 비판과 유사하다고 비유했습니다. 물론 생성형 AI는 소설이나 예술처럼 '새로움'이 중요한 분야에서는 유용할 수 있지만, 이때도 AI가 얼마나 독창적인지 알기 어렵다는 한계가 있습니다.
하지만 서튼 교수는 모든 AI가 이러한 한계를 가지는 것은 아니라고 강조했습니다. 알파고(AlphaGo)나 알파제로(AlphaZero)처럼 강화 학습 기반의 AI 시스템들은 '발견(Discovery)'이라는 메커니즘을 통해 '새롭고 좋은' 결과를 동시에 만들어낼 수 있다고 설명했습니다. 이들 시스템은 수많은 시도를 통해 가장 효과적인 방법을 찾아내고 이를 기억하는 방식으로 작동하며, 이는 진화(evolution)나 과학적 방법론과 유사합니다. 이러한 '발견' 능력이 바로 과학, 수학, 프로그래밍 등에서 진정한 발전을 이끌어내는 핵심 요소이며, 일반적인 지도 학습 기반의 생성형 AI에는 없는 중요한 특징이라고 서튼 교수는 덧붙였습니다.
서튼 교수의 이러한 주장은 현재 AI 산업의 주류를 이루는 생성형 AI의 역할과 미래 방향에 대해 중요한 질문을 던집니다. 생성형 AI가 정보 요약, 콘텐츠 생성 등 특정 작업에서 혁신적인 효율성을 제공하지만, 진정한 의미의 지식 확장이나 과학적 돌파를 위해서는 강화 학습과 같은 다른 AI 접근 방식의 중요성을 재조명해야 한다는 메시지로 해석될 수 있습니다. 이는 AI 연구 개발의 균형 잡힌 시각과 장기적인 전략 수립에 기여할 것으로 보입니다.