대규모 언어모델(LLM)을 활용한 전략적 워게임(wargame) 시뮬레이션이 현재로서는 실제 정책이나 군사 전략 수립에 사용하기에는 부적합하다는 연구 결과가 발표되었습니다. 마크 리들(Mark Riedl)과 글렌 매틀린(Glenn Matlin)은 아카이브(arXiv)에 게재된 논문에서, AI 기반 워게임이 적대 세력, 제도, 위기 대응 등을 모델링할 수 있지만, 그 개방성 때문에 오히려 위험성이 크다고 지적했습니다.
연구진은 LLM 기반 워게임이 가진 5가지 주요 실패 모드를 제시했습니다. 첫째, '결정 세탁(decision laundering)'은 AI의 모호한 판단을 마치 합리적인 결과인 양 포장할 수 있는 위험을 의미합니다. 둘째, '판단 불투명성(adjudication opacity)'은 AI의 결정 과정이 명확히 설명되지 않아 신뢰하기 어렵다는 점입니다. 셋째, '역할 붕괴(role collapse)'는 AI가 맡은 역할의 경계를 넘어서거나 혼동하여 시뮬레이션의 목적을 흐릴 수 있습니다. 넷째, '판단으로 인한 확전(escalation-through-adjudication)'은 AI의 판단이 의도치 않게 갈등을 증폭시킬 수 있는 가능성입니다. 마지막으로 '전략적 상상력의 실패(failure of strategic imagination)'는 AI가 예상치 못한 창의적인 전략을 만들어내지 못하고 정해진 패턴에 갇힐 수 있다는 한계를 보여줍니다. 이러한 실패 모드는 일반적인 벤치마크로는 안전성을 확보하기 어렵다고 연구진은 강조했습니다.
이러한 지적은 AI의 발전 속도에 비해 그 활용에 대한 신중한 접근이 필요하다는 중요한 메시지를 던집니다. 특히 국가 안보나 외교 정책과 같은 고위험 영역에서는 AI의 판단이 미치는 영향이 막대하므로, 철저한 감사 가능한 안전성 검증(auditable safety case) 없이는 LLM 기반 워게임을 계획, 교리, 정책 또는 위기 대응에 활용해서는 안 된다는 것이 연구의 핵심 주장입니다. 현재로서는 이러한 워게임을 의사결정에 영향을 미치는 LLM 에이전트의 스트레스 테스트 용도로만 사용하는 것이 적절하다는 결론은, AI 기술의 잠재력과 함께 그 한계와 위험성을 동시에 인지해야 함을 시사합니다.