워싱턴 대학교의 저명한 계산 언어학자 에밀리 벤더(Emily Bender) 교수가 2021년 공동 저술한 논문 "확률적 앵무새의 위험성(On the Dangers of Stochastic Parrots)"에 대한 오해를 직접 해명했습니다. 챗GPT(ChatGPT)와 같은 대규모 언어모델(LLM)이 일상화된 지금, 이 논문이 제기한 "확률적 앵무새(stochastic parrots)"라는 개념은 인공지능(AI) 커뮤니티에서 여전히 뜨거운 논쟁의 중심에 있습니다.
벤더 교수는 이 용어가 LLM이 인간의 언어를 통계적 패턴에 기반하여 모방할 뿐, 실제 세상에 대한 이해나 의미론적 지식을 가지고 있지 않다는 점을 비판적으로 지적하기 위해 사용되었다고 설명했습니다. 마치 앵무새가 사람의 말을 따라 할 수는 있지만 그 의미를 알지 못하는 것처럼, LLM도 방대한 텍스트 데이터에서 단어와 문장의 확률적 관계를 학습하여 그럴듯한 문장을 생성할 뿐이라는 것입니다. 그녀는 특히 LLM이 마치 지능을 가진 존재처럼 오인될 수 있는 위험성을 경고하며, 기술의 한계를 명확히 인지해야 한다고 강조했습니다.
이러한 관점은 LLM의 환각(hallucination) 문제나 편향성(bias) 문제와도 깊이 연결됩니다. LLM이 학습 데이터에 존재하는 편향을 그대로 반영하거나, 사실과 다른 내용을 마치 진실인 양 생성하는 현상은 모델이 실제 의미를 이해하지 못하고 통계적 패턴에만 의존하기 때문에 발생한다는 것이 벤더 교수의 주장입니다. 따라서 그녀는 LLM 개발자와 사용자 모두가 이 기술의 근본적인 한계를 이해하고, 책임감 있는 개발 및 활용 방안을 모색해야 한다고 역설했습니다. 이는 단순히 기술적 발전을 넘어 사회적, 윤리적 관점에서 AI를 바라봐야 한다는 중요한 메시지를 담고 있습니다.