최근 기술 업계에서는 인공지능(AI)이 시스템 신뢰성 엔지니어(SRE)의 역할을 대체하기보다, 오히려 그들의 핵심 역량을 약화시킬 수 있다는 논의가 활발합니다. AI가 사고 대응(incident response)의 95%를 처리하게 되면, SRE는 나머지 5%의 중요하고 복잡한 문제에 대한 대응 능력이 떨어질 수 있다는 지적입니다. 이는 AI가 일상적인 인지 작업을 자동화하면서, 인간이 드물고 고난도인 예외 상황에만 개입하게 되는 현상 때문입니다.
이러한 현상은 1983년 인지 심리학자 리산느 베인브리지(Lisanne Bainbridge)가 발표한 '자동화의 역설(Ironies of Automation)' 연구와 맥을 같이 합니다. 당시 연구는 공장 자동화가 육체 노동자의 일상 업무를 대체하면서, 자동화 시스템이 실패했을 때 인간 운영자가 개입해야 하는 중요성은 커지지만, 정작 그 개입에 필요한 숙련도는 떨어지는 역설을 발견했습니다. 현재 SRE 분야에서 AI는 알림 노이즈 감소, 런북(runbook) 실행, 로그 패턴 감지, 기본적인 근본 원인 분석 및 자동 복구 등 많은 부분을 자동화하고 있습니다. 향후에는 다중 신호 상관관계 분석, 예측적 사고 감지, AI 기반 변경 위험 평가까지 확장될 것으로 보입니다.
문제는 AI가 대부분의 1단계(Tier 1) 및 2단계(Tier 2) 사고를 처리하면서, SRE가 오직 3단계(Tier 3)의 새롭고 복잡한 사고에만 개입하게 된다는 점입니다. 직관과 숙련도는 수년간의 반복적인 사고 대응 경험을 통해 형성되는데, AI가 이 경험을 빼앗아 가면 SRE는 정작 가장 중요한 순간에 필요한 깊은 전문성을 잃을 수 있습니다. 이는 의학 분야에서 AI 보조 내시경 사용 후 비보조 용종 발견율이 감소하거나, 항공 분야에서 자동 조종 장치 의존도가 높아지면서 조종사의 상황 인식 및 수동 비행 능력이 저하되는 사례와 유사합니다. AI가 편리함을 제공하지만, 인간의 핵심 역량 유지에 대한 새로운 고민을 던지는 시점입니다.