산업 제어 시스템(OT)에 대한 사이버 공격이 증가하면서 막대한 비용과 물리적 피해를 야기하고 있습니다. 이는 산업용 사물 인터넷(IIoT) 환경에서 기존의 규칙 기반 모니터링 방식이 가진 한계를 명확히 보여줍니다. 이러한 문제를 해결하기 위해, 최근 연구에서 대규모 언어모델(LLM)의 강력한 의미론적 추론 능력을 활용하면서도, LLM의 고질적인 문제인 '환각(hallucination)' 현상이 폐쇄 루프 제어 시스템에 미치는 안전성 문제를 해결하는 새로운 접근 방식이 제시되었습니다.
이 연구는 '뉴로-에이전틱 제어(Neuro-Agentic Control)'라는 혁신적인 프레임워크를 소개합니다. 이 프레임워크는 LLM 기반의 플래너(예: Gemini 2.5 Flash-Lite)와 사전 훈련된 시계열 기반 모델(TimesFM)을 결합한 아키텍처입니다. 핵심은 '반사실적 물리 주입(Counterfactual Physics Injection)' 메커니즘인데, 이는 LLM이 제안하는 개입이 실제 물리 시스템에 미칠 영향을 파운데이션 모델의 수치적 잠재 공간 내에서 시뮬레이션하여, 환각적이거나 안전하지 않은 행동을 시스템이 거부할 수 있도록 합니다. 이를 통해 LLM의 의사결정 능력을 활용하면서도 물리적 안전성을 확보하는 것이 가능해집니다.
이 프레임워크는 산업 데이터셋(예: Secure Water Treatment, SWaT)을 활용한 확률적 공격 시나리오 평가에서 기존 LSTM 및 TCN 기반 모델보다 우수한 성능을 보였습니다. 특히, 뉴로-에이전틱 루프는 임계값 이하의 침해 5건(33.3%)을 방지했으며, 이는 LSTM(26.7%) 및 TCN(13.3%)보다 높은 수치입니다. 더욱 중요한 점은 물리적으로 유효하지 않은(환각) 행동이 단 한 번도 실행되지 않았다는 것입니다. 이러한 결과는 파운데이션 모델이 중요한 인프라에서 에이전트 AI(Agentic AI)를 보호하는 결정론적 '감시자(Sentinels)' 역할을 효과적으로 수행할 수 있음을 입증하며, 산업 보안 분야에서 AI 기반 자율 방어 시스템의 새로운 가능성을 제시합니다.