AI 기반의 인시던트 대응(SRE) 도구, 이른바 AI SRE가 경보 분석부터 가설 수립, 텔레메트리 조회, 배포 내역 연계, 심지어 수정까지 도맡으면서 평균 복구 시간(MTTR)을 크게 단축하고 있습니다. 하지만 이러한 자동화가 엔지니어들이 시스템의 정상 동작과 실패 방식을 체득할 기회를 감소시켜, 결국 '시스템 감각'을 잃게 만들 수 있다는 우려가 제기되고 있습니다.
자동화는 일상적인 용량 문제와 같은 예측 가능한 장애를 AI가 처리하게 함으로써 엔지니어가 야간 호출에 응할 필요를 줄여줍니다. 그러나 이러한 일상적인 인시던트는 엔지니어에게 시스템을 비교적 안전하게 탐색하고 학습할 수 있는 소중한 기회이기도 합니다. 인간공학 연구자 리산 베인브리지(Lisanne Bainbridge)는 1983년 논문 '자동화의 아이러니(The Ironies of Automation)'에서 자동화가 일상 업무 연습 기회를 줄여, 결국 사람이 해결해야 할 새롭고 비정상적인 상황에 대한 책임은 그대로 남으므로 운영자가 이전보다 더 숙련되고 많은 훈련을 받아야 한다고 지적했습니다. AI 보조 대응은 대부분의 인시던트에서 MTTR을 낮추지만, 복잡한 인시던트에서는 대응자가 시스템 감각을 잃어 조사에 어려움을 겪고 해결 시간이 크게 늘어날 수 있다는 '자동화의 역설'이 소프트웨어 인시던트에서도 나타나고 있는 것입니다.
항공업계는 이러한 '드문 실패'에 대비해 조종사들에게 정기적인 시뮬레이터 훈련을 의무화하고 있습니다. 예를 들어, 미국 연방항공청(FAA) 규정상 기장은 이륙 중 엔진 고장과 같은 비정상 상황에 대한 반복 교육이나 숙련도 검사를 6개월마다 받아야 합니다. 소프트웨어 인시던트 시뮬레이터인 루트리(Rootly)와 업타임 랩스(Uptime Labs)는 이러한 접근 방식을 소프트웨어 엔지니어링에 적용하여, 모의 전자상거래 장애 상황에서 엔지니어가 인시던트 지휘자 역할을 맡아 원인을 조사하고 LLM 기반 이해관계자와 소통하며 불완전한 정보 속에서 판단과 조율을 직접 연습할 수 있도록 돕습니다.
AI의 설명이나 관찰만으로는 직접적인 실습을 대체할 수 없으며, 마치 세레나 윌리엄스의 경기를 보는 것만으로는 테니스를 배울 수 없는 것과 같습니다. LLM이 더 많은 업무를 수행할수록 시스템의 실제 작동 방식과 대응자의 이해 수준 사이에 '이해 부채(comprehension debt)'가 누적될 위험이 커집니다. 따라서 엔지니어는 자신이 담당하는 시스템과 정기적으로 상호작용하고, 익숙하지 않은 장애를 직접 처리하며, 압박 속에서 판단하고 작업하는 능력을 연습해야 합니다. 기존의 테이블톱 훈련이나 카오스 엔지니어링(Chaos Engineering)과 더불어, 온콜(on-call) 준비 과정에 실습형 시뮬레이션을 정기적으로 포함하는 것이 더욱 중요해지고 있습니다. 자동화가 성공적으로 작동할수록, 역설적으로 자동화가 실패하는 순간에는 인간이 오히려 덜 준비된 상태일 수 있기 때문입니다.