미국 국방부가 인공지능(AI) 기술을 적극적으로 도입하고 있지만, 이로 인해 미군 전력이 오히려 약화될 수 있다는 우려가 제기되었습니다. AI에 대한 과도한 의존이 새로운 종류의 취약점을 만들어낼 수 있으며, 이는 적대국들이 미군의 핵심 시스템을 교란하거나 무력화하는 데 악용될 수 있다는 분석입니다.
구체적으로, AI 기반 시스템은 세 가지 주요 경로를 통해 미군을 취약하게 만들 수 있습니다. 첫째, AI 시스템의 데이터가 오염되거나 조작될 경우 잘못된 의사결정을 유도할 수 있습니다. 둘째, AI 모델 자체에 대한 사이버 공격은 자율 무기 시스템의 오작동이나 통제 불능을 초래할 수 있습니다. 셋째, AI가 전장의 복잡성을 과도하게 단순화하여 인간 지휘관의 판단력을 저해하고, 예상치 못한 상황에 대한 적응력을 떨어뜨릴 수 있습니다. 이러한 문제들은 미군이 전술적 우위를 잃거나 심각한 인명 피해를 입을 가능성을 높입니다.
이러한 경고는 AI 기술이 가져올 혁신적인 이점에도 불구하고, 그 도입 과정에서 발생할 수 있는 잠재적 위험을 간과해서는 안 된다는 중요한 메시지를 던집니다. AI를 국방에 활용하는 것은 필연적이지만, 동시에 시스템의 견고성, 데이터 무결성, 그리고 인간과 AI 간의 적절한 역할 분담에 대한 심도 깊은 고민과 대비책 마련이 시급합니다. 이는 단순히 기술적 문제를 넘어 국가 안보의 근간을 뒤흔들 수 있는 중대한 사안으로, AI 윤리 및 거버넌스(governance)에 대한 국제적 논의와 협력도 필수적입니다.