최근 18개월간 관찰된 AI 프로젝트의 성공률이 0%에 달하며, 전 세계 기업들의 의사결정이 AI 광풍에 의해 무너지고 있다는 비판적인 분석이 제기되었습니다. 기술의 불확실성, 기존 소프트웨어 프로젝트의 고질적인 문제, 그리고 조직 내부의 정치적 압력이 복합적으로 작용하여 막대한 AI 투자가 실제 성과로 이어지지 못하고 있다는 것입니다. 특히 직원 500명 이상 규모의 조직에서는 AI의 효용에 의문을 제기하는 것만으로도 승진과 고용이 위태로워지는 분위기가 형성되어, 직원들이 'AI 세탁'이나 '토큰 사용량 조작' 같은 편법으로 조직의 요구에 순응하고 있는 실정입니다.
이러한 실패의 배경에는 여러 요인이 있습니다. 내부 챗봇은 기업 문서의 낮은 품질로 인해 충분한 답변을 제공하지 못했고, 고객용 챗봇 역시 만족스러운 사례를 찾기 어려웠습니다. 프로젝트 책임자들은 실제 사용률 같은 기본 지표를 회피하고 쉽게 조작 가능한 지표를 선택하는 경향을 보였습니다. 예를 들어, Snowflake(스노우플레이크)의 AI 챗봇 계층인 Cortex(코텍스) 데모는 높은 정확도를 보여주었음에도 불구하고, 실제 대규모 데이터 환경에서는 심각한 운영상 한계가 있었습니다. 그럼에도 불구하고 잠재 고객들은 비합리적인 구매 열기를 보였고, 판매자는 평판 및 법적 위험을 우려해 판매를 중단하고 데모 목록에서 제거하는 일까지 발생했습니다.
더 큰 문제는 임원들의 과장된 주장이 멈추지 않는 '조정 문제'입니다. 고객사와 공급사가 서로의 과장된 생산성 주장을 부정하지 못하는 상황에서, 회의적인 임원조차 AI 투자를 공개적으로 지지하고 비(非)AI 사업에도 AI 요소를 억지로 붙이게 됩니다. 이는 실패를 인정하면 자리를 잃을 수 있다는 경영진의 두려움, 해고나 구조조정을 피하려는 직원의 심리, 그리고 계약 관계에서 상대방의 체면을 손상시키지 않으려는 판매사의 이해관계가 복합적으로 얽혀 있기 때문입니다. 모두가 동시에 진실을 말하면 상황을 바꿀 수 있지만, 이를 조정할 방법이 없어 집단적인 침묵과 과장이 이어지고 있습니다.
이러한 현상은 AI 기술 자체의 문제라기보다는 역기능적인 기업 문화의 문제입니다. 조직을 바로잡기 위해서는 일대일 대화, 익명 설문, 현장 직원과의 직접적인 검증을 통해 숨겨진 문제점을 파악해야 합니다. 그러나 이러한 개입은 조직 내 정치적 공격으로 비칠 수 있어 어렵습니다. 결국, AI가 최우선 과제와 실제로 일치하는 극소수 기업을 제외하고는, 대부분의 대형 조직이 적절한 소프트웨어 구매, 인재 채용, 정직한 프로젝트 보고, 합리적인 신규 사업 추진에 집중하기 어려운 상황에 놓여 있습니다. 개인 차원에서는 이러한 집단적 집착에 저항하기 어렵기 때문에, AI 생성 코드로 소진되기 전에 이직이나 계약직 전환을 준비하는 것이 현실적인 대안으로 제시되기도 합니다.