만성적인 자금난에 시달리는 한 직장에서 핵심 업무 예산은 삭감되고 직원 보너스마저 취소되는 와중에도, 인공지능(AI) 도입에는 막대한 자금이 흘러들어가는 역설적인 상황이 벌어졌습니다. 컨설턴트 고용, LLM 워크숍, ChatGPT 및 Copilot 라이선스 비용은 즉시 승인되었지만, 정작 수백 명이 참여한 전사 LLM 프로젝트는 단 하나도 성공하지 못했습니다. 저자는 이 현상을 '통제 불능의 집단 망상'으로 규정하며, 그동안 조직의 느린 변화가 의도적인 설계였음을 폭로하는 '신뢰 붕괴의 순간'이라고 비판했습니다.
이 기업은 수년간 공석을 충원하지 않고 필수 자원을 삭감하며 '알아서 해결하라'는 식의 비용 절감을 강요해왔습니다. 중요 라이선스와 데이터베이스마저 삭제되는 상황에서, AI 관련 지출만은 예외적으로 집행되었습니다. '올인'을 권고하는 컨설턴트 고용, 수년치 외부 LLM 워크숍 및 세미나 비용, 그리고 ChatGPT와 Copilot 라이선스 비용이 확보된 것입니다. 그러나 부서별로 진행된 LLM 프로젝트들은 모두 '작동 불가', '시간 절약 안 됨', '오히려 복잡해짐'으로 결론 났습니다. 할루시네이션(환각)과 특정 문서 미반영, 문서 편집 실패 등 기본적인 문제조차 해결하지 못했으며, 봇에게 기분을 묻거나 1페이지짜리 점심 메뉴를 요약하는 등 무의미하거나 심지어 스팸 메일을 LLM에 업로드하라는 위험한 활용 사례까지 진지하게 시연되었습니다.
저자는 이러한 현상이 AI가 사람들의 더닝-크루거 효과(Dunning-Kruger Effect)를 증폭시켜, 평범한 작업을 중요하고 획기적인 일처럼 가장하게 만든다고 지적합니다. 구체적인 문제 해결 없이 '적어도 시도는 했다'는 보여주기식 명분과 '탐색' 및 '놀이'라는 명목으로 시간과 비용 낭비가 정당화되고 있다는 것입니다. 늘 돈이 없다던 조직이 막대한 초기 비용이 드는 불안정한 기술을 즉시 도입하는 모습은, 그동안 조직의 변화 속도가 본질적인 장애물이 아니라 임의적인 거짓이었음을 드러내며 직원들의 신뢰를 완전히 무너뜨렸습니다. 이는 단순한 기술 도입 실패를 넘어, 리더십의 무능과 조직 문화의 근본적인 문제를 드러내는 사례로 볼 수 있습니다.