최근 아카이브(arXiv)에 발표된 논문은 챗봇이 문제 해결 중심 대화에서 진정한 대화 파트너가 될 수 있는지에 대한 근본적인 질문을 던지고 있습니다. 이 연구는 챗봇의 능력과 한계를 인지 언어학, 신경심리학, 심리학 등 다양한 학문 분야의 관점에서 분석하며, 대규모 언어모델(LLM) 기반의 챗봇이 인간의 사고방식을 완전히 모방하거나 대체할 수 없다는 결론을 내렸습니다. 이는 AI 기술에 대한 맹목적인 낙관론에 경종을 울리는 중요한 시사점을 제공합니다.
이 논문은 인간의 이해와 사고를 '은유적 문제 전파(metaphorical problem propagations)'라는 개념으로 설명합니다. 이는 인간이 문제를 인식하고 해결하는 과정에서 은유적 사고를 통해 다양한 개념들을 연결하고 확장한다는 의미입니다. 연구진은 챗봇 훈련에 사용되는 텍스트 데이터셋이 이러한 인간의 사고방식을 부분적으로만 모방하며, LLM 훈련 과정에서 인공적인 은유적 문제 전파가 인코딩될 뿐이라고 주장합니다. 즉, 챗봇은 방대한 데이터에서 패턴을 학습하지만, 인간처럼 문제를 깊이 이해하고 창의적으로 해결하는 능력은 부족하다는 것입니다. 이 연구는 기본적인 챗봇을 분석하여 더 발전된 챗봇의 핵심 기능에 대해서도 동일한 결론을 도출하며, LLM의 추가적인 발전만으로는 인간과 동등한 사고 파트너가 될 수 없다고 단언합니다.
이러한 결론은 얀 르쿤(Yann LeCun)과 같은 저명한 AI 전문가들의 견해와도 일치합니다. 르쿤은 동물과 인간이 현재 AI 및 머신러닝(ML) 시스템의 능력을 훨씬 뛰어넘는 학습 능력과 세상에 대한 이해를 보여준다고 강조한 바 있습니다. 이 연구는 빅테크 기업들의 낙관적인 AI 비전과 대조되지만, 챗봇이 이미 광범위하게 사용되고 있다는 현실을 부정하지는 않습니다. 오히려 챗봇의 기능, 장점, 단점을 사회적, 정치적으로 이해하는 것이 중요하며, 이번 연구가 챗봇에 대한 논의에 기여하고자 함을 밝히고 있습니다. 이는 AI 기술의 발전 방향과 한계에 대한 비판적 성찰을 통해, 보다 현실적이고 책임감 있는 AI 개발 및 활용 방안을 모색해야 함을 시사합니다.