최근 소프트웨어 개발 업계에서는 인공지능(AI) 코딩 도구를 활용한 '소프트웨어 팩토리' 개념이 확산되며 개발 생산성 향상에 대한 기대감이 커졌습니다. 인간의 개입 없이 AI가 코드를 생성하고 배포하는 '다크 팩토리' 같은 극단적인 시도까지 등장했죠. 하지만 이러한 흐름 속에서 코드 품질 저하, 버그 증가, 시스템 장애와 같은 심각한 부작용이 속속 보고되며 우려의 목소리가 커지고 있습니다.
강력한 AI 코딩 도구들이 등장한 이후, 개발자들은 더 많은 코드를 더 빠르게 생산할 수 있게 되었습니다. 하지만 파로스 AI(Faros AI)의 보고서에 따르면, AI 코딩 도구 도입 이후 풀 리퀘스트(PR) 검토 품질이 현저히 낮아졌고, 더 많은 주석과 긴 주석이 달리며, 심지어 검토 없이 병합되는 PR도 늘어났다고 합니다. 이는 곧 인시던트(incident) 증가와 개발자당 버그 수 증가로 이어졌습니다. 일부 전문가들은 이러한 현상을 단순히 '사용자 숙련도 부족'으로 치부하지만, 본문에서는 이것이 '하네스 엔지니어링'(Harness Engineering)만으로는 해결할 수 없는 근본적인 모델 훈련 문제라고 지적합니다. 즉, 린터(linter)나 PR 검토 봇 같은 보조 도구를 아무리 많이 추가해도, AI 모델 자체의 한계를 극복하기 어렵다는 것입니다.
이러한 현상은 AI 코딩 모델이 벤치마크에서는 뛰어난 성능을 보이지만, 실제 복잡한 코드베이스에서는 '엉망진창'(slop) 코드를 대량으로 생성하는 이유를 설명합니다. 결국 소프트웨어 팩토리의 실패는 단순히 도구를 더 잘 활용하는 문제가 아니라, AI 코딩 모델의 훈련 및 평가 방식에 대한 깊이 있는 이해와 개선이 필요하다는 것을 시사합니다. 무분별한 속도 경쟁보다는 품질과 안정성을 확보하기 위한 새로운 접근 방식이 요구되며, 이는 개발 프로세스 전반에 걸쳐 인간과 AI의 효과적인 협업 모델을 재정립하는 계기가 될 것입니다.