유명 소프트웨어 개발자 마틴 파울러(Martin Fowler)가 대규모 언어모델(LLM)과의 상호작용에서 본능적인 비호감(dislike)을 느낀다고 밝혔습니다. AI와 LLM이 가져올 생산성 향상에 대한 기대와 잠재적 위험에 대한 두려움이 공존하지만, 정작 직접 대화할 때 가장 강하게 드는 감정은 '불편함'이라는 것입니다. LLM이 유용한 답변과 지어낸 내용을 똑같이 확신에 찬 태도로 말하고, 오류를 지적받아도 겉으로만 후회하는 듯한 반응을 보이는 것이 마치 피하고 싶은 유형의 인간을 흉내 내는 기계처럼 느껴진다는 설명입니다.
파울러는 LLM의 이러한 특성이 '불쾌한 골짜기(uncanny valley)' 현상을 일으키며, 실제 사람과 대화하는 듯하면서도 어색한 지점이 비호감을 유발한다고 지적합니다. 그는 LLM이 아직 어리고 미성숙하기 때문일 수 있다고 보면서도, 실리콘밸리(Silicon Valley)의 특정 문화 속에서 길러진 산물이라는 점에 경계심을 표했습니다. LLM은 독자적 의지를 가진 의식적 존재가 아니라 기업에서 사람이 개발한 소프트웨어이며, 명시적으로 프로그래밍되지 않아도 창조자의 가치관 속에서 길러진다는 것입니다. 따라서 평소 피하고 싶은 유형의 인간처럼 행동하는 LLM에 본능적인 거부감을 느낀다고 설명했습니다.
이러한 거부감이 LLM 사용을 피해야 한다는 의미는 아니며, 오히려 그 실용적 유용성(practical usefulness)은 인정해야 한다고 파울러는 강조합니다. 여론조사에서도 LLM이 유용하다고 여기면서도 사회에는 부정적인 영향을 줄 것이라고 생각하는 상반된 반응이 나타나는 것처럼, 기술의 효율성은 인정하되 그 내재된 특성과 사회적 함의에 대한 비판적 시각을 유지해야 한다는 메시지입니다. 결국 LLM은 피할 수 없는 기술의 흐름이므로, 그 한계를 명확히 인지하고 책임감 있게 활용하는 지혜가 필요하다는 점을 시사합니다.