최근 기술 업계의 뜨거운 감자인 인공지능(AI) 열풍 속에서, 기술 비판 팟캐스트 '디코더(Decoder)'의 진행자 닐레이 파텔(Nilay Patel)이 AI의 과대광고에 대한 비판적 시각을 제시했습니다. 그는 AI가 소프트웨어 개발 분야에서 뛰어난 능력을 보이지만, 이외의 영역에서는 결과의 검증 가능성(verifiability)이 현저히 떨어진다는 점을 강조하며 현재의 AI 과대광고가 간과하는 핵심 문제를 짚었습니다.
파텔은 '소프트웨어 두뇌(software brain)'라는 주제의 에피소드에서, AI가 소프트웨어 코드를 작성하고 데이터베이스를 조작하는 데 매우 능숙하다는 점은 인정했습니다. 소프트웨어는 컴파일러를 통해 작동 여부를 즉시 확인할 수 있는 명확한 검증 과정을 거치기 때문입니다. 그러나 그는 이러한 '소프트웨어 세계'를 벗어나면 AI 생성 결과의 진위와 정확성을 확인하는 것이 훨씬 어려워진다고 지적했습니다. 예를 들어, AI가 수학 문제를 푸는 경우에도 검증에는 많은 컴퓨팅 자원(토큰)이 소모되며, 그마저도 완벽한 검증을 보장하기 어렵다는 것입니다.
이러한 관점은 현재 AI 기술이 직면한 중요한 한계를 드러냅니다. 많은 AI 연구소들이 인공일반지능(AGI)의 도래를 이야기하며 AI의 소프트웨어 작성 능력을 주요 근거로 삼지만, 파텔은 소프트웨어 외 영역에서의 검증 문제에 대한 논의가 부족하다고 봅니다. 이는 AI가 실제 세상의 복잡한 문제에 적용될 때 신뢰성과 안전성 측면에서 심각한 도전 과제가 될 수 있음을 시사합니다. 결국, AI의 잠재력을 온전히 실현하기 위해서는 단순히 결과물을 생성하는 것을 넘어, 그 결과물의 정확성과 신뢰성을 어떻게 보장하고 검증할 것인가에 대한 깊이 있는 고민이 필요하다는 메시지를 던집니다.