글로벌 4대 컨설팅 기업 중 하나인 PwC가 인공지능(AI)을 활용해 작성한 '사고 리더십' 보고서에서 심각한 AI 환각(hallucination) 현상이 발견되어 파문이 일고 있습니다. 파이낸셜 타임즈(Financial Times) 보도에 따르면, 이 보고서에는 실제로는 존재하지 않는 인용문과 출처가 포함되어 있어 내용의 신뢰성에 큰 의문이 제기되었습니다. 이는 AI 기술 도입에 앞장서던 PwC의 명성에 타격을 줄 뿐만 아니라, AI 생성 콘텐츠의 윤리적 책임과 검증의 중요성을 다시 한번 상기시키는 계기가 되고 있습니다.
이번 논란은 PwC가 AI 기술을 활용하여 다양한 산업 분야에 대한 심층 분석 보고서를 발행하는 과정에서 불거졌습니다. 보고서에 인용된 특정 전문가의 발언이나 연구 결과가 실제로는 확인되지 않거나, 언급된 출처가 가짜인 것으로 드러난 것입니다. 이러한 AI 환각은 대규모 언어모델(LLM)이 훈련 데이터에 없는 정보를 마치 사실인 것처럼 지어내는 현상을 의미하며, 특히 사실 확인이 중요한 전문 보고서에서는 치명적인 오류로 작용합니다. PwC는 이번 사태에 대해 내부적으로 조사를 진행 중이며, AI 활용 프로세스 전반에 대한 재검토에 들어간 것으로 알려졌습니다.
이번 PwC 사례는 AI 기술의 강력한 잠재력과 함께 그 한계점 및 위험성을 명확히 보여줍니다. 특히 기업들이 AI를 활용하여 콘텐츠를 생성할 때, 단순한 효율성 증대를 넘어 내용의 정확성과 진실성을 확보하기 위한 철저한 검증 시스템이 필수적임을 시사합니다. AI가 생성한 정보에 대한 인간의 최종 검토와 책임이 얼마나 중요한지 다시 한번 강조되며, AI 시대에 정보의 신뢰성을 어떻게 확보할 것인지에 대한 근본적인 질문을 던지고 있습니다. 이는 AI 기술을 도입하려는 모든 기업과 기관에 중요한 교훈을 제공할 것입니다.