최근 대규모 언어모델(LLM)이 마치 사실인 양 그럴듯하게 거짓 정보를 생성하는 '환각(hallucination)' 현상이 인공지능(AI) 분야의 뜨거운 감자로 떠오르고 있습니다. 하지만 일부 전문가들은 이 문제가 전혀 새로운 것이 아니며, 60년 전 초기 AI 연구자들이 직면했던 근본적인 실패의 반복일 뿐이라고 지적합니다. 이는 단순히 모델의 성능을 개선하는 것을 넘어, AI가 세상을 이해하는 방식 자체에 대한 깊이 있는 성찰을 요구합니다.
METR(Machine Intelligence Research Institute)의 브리핑에 따르면, LLM의 환각은 1960년대 초반 '상식(common sense)' 문제를 해결하려 했던 AI 연구의 실패와 궤를 같이합니다. 당시 AI는 특정 규칙이나 데이터 패턴을 학습하는 데는 성공했지만, 인간처럼 세상에 대한 폭넓은 배경 지식이나 직관적인 이해가 부족하여 비현실적인 결론을 내리곤 했습니다. LLM 역시 방대한 텍스트 데이터를 학습하지만, 그 내용의 진위나 현실 세계와의 연관성을 판단하는 '진정한 이해'가 결여되어 있어, 학습된 패턴에 기반해 그럴듯하지만 사실이 아닌 정보를 만들어내는 것입니다. 이는 마치 정답을 모르면서도 그럴듯한 오답을 자신 있게 말하는 것과 같습니다.
이러한 관점은 LLM의 환각 문제를 해결하기 위한 접근 방식에 중요한 시사점을 던집니다. 단순히 더 많은 데이터를 학습시키거나 모델의 크기를 키우는 것만으로는 근본적인 해결이 어렵다는 의미입니다. 오히려 AI가 인간처럼 '세상을 이해'하고 '상식'을 습득할 수 있도록 하는 새로운 패러다임의 연구가 필요하다는 목소리가 커지고 있습니다. 이는 AI가 단순한 패턴 인식 도구를 넘어, 진정으로 신뢰할 수 있는 지능형 시스템으로 발전하기 위한 필수적인 과제이며, 장기적으로 AI의 발전 방향을 재정립하는 계기가 될 수 있습니다.