미군이 인공지능(AI)이 만들어낸 잘못된 정보 보고서에 의존하여 중국 선박에 대한 차단 작전을 준비하다가, 작전 직전에야 AI의 오류를 발견하며 미중 간 무력 충돌로 이어질 뻔한 심각한 위기를 겪었습니다. 이 사건은 AI가 단순한 버그를 넘어 현실 세계에 치명적인 결과를 초래할 수 있음을 보여주며, 군사 분야에서 AI 활용의 신뢰성과 안전성 문제에 대한 경각심을 높이고 있습니다.
2026년 봄, 이란과의 전쟁이 진행 중이던 시점에 중동 해역의 중국 선박이 핵무기 프로그램 관련 부품을 운송한다는 정보 보고서가 미군 내부에 유통되었습니다. 이 보고서는 미 특수작전사령부 분석관이 챗봇(chatbot)을 활용해 작성한 것으로, 챗봇은 공개 출처 정보와 기밀 신호 정보를 종합하는 과정에서 선박의 운송 물자를 잘못 식별했습니다. 이 허위 정보를 바탕으로 미군은 무장 병력의 승선 준비와 군용기 출격 등 실제 작전을 개시하려 했으나, 작전 직전 당국자들이 보고서를 심층 검토하는 과정에서 AI의 치명적인 오인 사실을 발견했습니다. 소식통들은 이 보고서가 “완전히 허위”였으며 “전쟁을 일으킬 뻔했다”고 전했습니다.
미 국방부는 전장 의사결정 속도 향상을 위해 AI 도입을 가속하고 있으며, 2026년 1월에는 '인공지능 가속 전략(Artificial Intelligence Acceleration Strategy)'을 발표하며 군의 AI 활용 확대를 강조했습니다. 그러나 이번 사건은 이러한 AI 도입이 분산적으로 진행되고 있으며, 각 군과 정보기관마다 다른 도구와 안전 기준을 사용하고 있어 AI가 생성한 정보를 검증할 공통 기준이 없다는 심각한 문제점을 드러냈습니다. 특히 젊은 분석관들이 AI 도구를 비판 없이 신뢰할 가능성이 높다는 우려도 제기되고 있으며, AI의 '환각(hallucination)' 현상이 정부 내 AI 도구 확산 이후 정보기관에서 발생한 유일한 사례가 아니라는 점도 밝혀졌습니다.
이번 사건은 AI가 단순히 정보를 분석하고 요약하는 도구를 넘어, 국가 안보와 국제 관계에 직접적인 영향을 미칠 수 있는 강력한 존재임을 시사합니다. AI의 오판이 실제 무력 충돌로 이어질 경우, 그 파급력은 예측 불가능하며 돌이킬 수 없는 결과를 초래할 수 있습니다. 따라서 군사 분야에서 AI를 활용할 때는 기술적 신뢰성 확보와 함께, 인간의 개입과 검증 절차를 강화하고 AI 생성 정보에 대한 명확한 공통 검증 기준을 마련하는 것이 무엇보다 중요합니다. AI의 잠재력을 최대한 활용하면서도 그 위험을 최소화하기 위한 신중한 접근과 제도적 보완이 시급합니다.