글로벌 컨설팅 기업 KPMG가 인공지능(AI) 활용에 대한 보고서인 ‘에이전트 AI 시대의 탁월함 재정의(Redefining excellence in the age of agentic AI)’를 웹사이트에서 전격 철회했습니다. 보고서에 언급된 여러 기관들이 자신들의 AI 활용 사례가 사실과 다르거나 오해의 소지가 있다고 밝혔기 때문입니다. 이는 AI가 생성한 정보의 신뢰성 문제, 즉 AI 환각(hallucination) 현상이 실제 비즈니스 영역에 미치는 영향을 여실히 보여주는 사례로 평가됩니다.
이번 사태는 AI 연구 그룹 GPTZero가 KPMG 보고서의 여러 부정확한 내용을 지적하면서 불거졌습니다. GPTZero는 영국 파이낸셜타임스(FT)에 이 부정확한 정보들이 AI 환각에서 비롯된 것으로 보인다고 밝혔습니다. UBS, 영국 국민보건서비스(NHS), 스위스 연방 철도, 런던 교통국 등 보고서에 언급된 주요 기관들은 FT에 KPMG 보고서의 주장이 사실이 아니거나 오해의 소지가 있다고 확인했습니다. KPMG 대변인은 현재 자체 조사를 진행 중이며, 모든 직원이 AI 책임 사용 지침을 따르고 독립적인 출처 검증 및 인간 감독을 통해 콘텐츠를 확인하도록 기대한다고 밝혔습니다. 지난달에는 또 다른 컨설팅 기업 EY 역시 AI 환각이 포함된 것으로 보이는 보고서를 철회한 바 있어, 컨설팅 업계 전반의 AI 활용 방식에 대한 우려가 커지고 있습니다.
이번 KPMG 보고서 철회 사건은 AI 기술이 아무리 발전하더라도 인간의 검증과 감독이 필수적이라는 점을 다시 한번 강조합니다. 특히 전문성과 신뢰성이 생명인 컨설팅 업계에서 AI 생성 콘텐츠를 충분한 검증 없이 활용할 경우, 기업 이미지와 고객 신뢰에 치명적인 손상을 입을 수 있음을 보여줍니다. AI 환각은 대규모 언어모델(LLM)의 고질적인 문제 중 하나로, 사실과 무관한 내용을 그럴듯하게 지어내는 현상을 말합니다. 따라서 AI를 업무에 도입할 때는 반드시 사실 확인 프로세스를 강화하고, AI의 한계를 명확히 인지하는 것이 중요합니다. 이는 AI 기술의 잠재력을 최대한 활용하면서도 발생할 수 있는 위험을 최소화하는 현명한 접근 방식이 될 것입니다.