최근 컨설팅 기업 Hermit Tech가 발표한 보고서에 따르면, 지난 1년 반 동안 이들이 직간접적으로 관찰한 모든 AI 프로젝트의 성공률은 0%였다고 합니다. 많은 기업이 AI 기술 도입 자체를 전략적 목표로 삼으면서, 실제 비즈니스 성과나 문제 해결보다는 AI 활용이라는 명분에 갇혀 불필요한 투자와 과장된 성과 발표가 만연하고 있다는 지적입니다.
보고서는 이러한 현상의 원인을 다양한 이해관계자들의 '실패 은폐 유인'에서 찾습니다. 경영진은 AI 프로젝트 실패를 인정하면 자리나 계약을 잃을까 두려워하고, 직원들은 AI 효용에 의문을 제기하면 승진이나 고용에 불이익을 받을까 염려합니다. 심지어 AI를 사용하지 않은 작업을 AI 성과로 포장하거나, 토큰 사용량을 인위적으로 늘려 평가 지표를 맞추는 사례도 발생하고 있습니다. 내부 챗봇은 부실한 문서 때문에 활용되지 않고, 고객용 챗봇은 문제 해결 여부조차 제대로 측정되지 않지만, 모두가 침묵하며 'AI 신앙 고백'에 가까운 분위기가 형성되고 있다는 것입니다. 한 임원은 심지어 ChatGPT를 한 번도 사용하지 않고도 AI 중심의 기술 전략을 세웠다고 고백하기도 했습니다.
이러한 '조정 문제(coordination problem)'는 기업의 합리적인 의사결정을 마비시키고 있습니다. 모든 사업 및 예산 요청에 AI 요소를 포함해야 통과되는 'AI 순도 검사' 때문에, 본질적으로 AI와 무관한 프로젝트도 AI를 덧붙여 포장되는 경우가 많습니다. 예를 들어, 데이터베이스 이전 프로젝트에 LLM 기반 SQL 자동 변환 단계를 추가했지만, 실제로는 권한 문제로 자동화에 실패하고 수동으로 변환했음에도 AI 기반 성공으로 둔갑하는 식입니다. Hermit Tech는 이러한 상황이 지속되면 대규모 조직은 합리적인 소프트웨어 구매, 인재 채용, 프로젝트 상태 보고 및 중요 사업 수행에 집중하기 어려워질 것이라고 경고하며, 위기가 현실화되기 전에 내부적으로 사실을 확인하고 대응책을 마련해야 한다고 조언합니다. 이 보고서는 AI 광풍 속에서 기업들이 직면한 현실적인 문제점과 그 이면에 숨겨진 조직 문화적 병폐를 날카롭게 지적하고 있습니다.