최근 발표된 연구 논문이 복잡한 사이버 물리 시스템(CPS) 및 사물 인터넷(IoT) 환경에서 인공지능(AI)의 의사결정을 설명하는 새로운 접근 방식을 제안했습니다. 기존의 설명 가능한 AI(XAI) 방법론이 주로 입력과 출력 변수 간의 상관관계를 보여주는 데 그쳤다면, 이 연구는 시스템의 특정 동작이 발생하는 근본적인 원인과 그 영향을 파악하는 데 중점을 둡니다. 특히 피드백 루프와 부분적인 관측 가능성으로 인해 명시적인 인과 관계를 파악하기 어려운 대규모 하이브리드 시스템에서 그 유용성이 돋보입니다.
이 논문은 통계 역학(statistical mechanics)에서 영감을 받아, 사이버 물리 IoT 시스템의 변수 의존성을 비방향성 에너지 기반 표현으로 모델링하는 프레임워크를 소개합니다. 이는 기존의 그래프 기반 접근 방식처럼 명확한 인과 그래프를 복구하는 대신, 에너지 지형(energy landscape)의 변화를 분석하여 개별 구성 요소의 영향력을 엄격하게 파악합니다. 연구팀은 산업 IoT 테스트베드 시뮬레이션을 통해 이 프레임워크가 기존 그래프 기반 접근 방식보다 더 높은 귀인(attribution) 정확도, 향상된 견고성, 그리고 더 나은 확장성을 제공함을 입증했습니다.
이러한 구조적 귀인(structural attribution) 방식은 특히 고위험 영역에서 자동화된 결정에 대한 사용자 이해를 돕고, 이상 행동의 신뢰할 수 있는 설명을 제공하는 데 중요합니다. 비록 시스템의 생성 역학(generative dynamics)을 완전히 복구하는 것은 아니지만, 인간의 해석과 후속 예측 및 진단 작업에 유용한 의존성 인식 설명을 제공합니다. 산업 IoT 보안 분야에 적용 가능성을 보여주었지만, 이 프레임워크는 원칙적인 구조적 설명이 필요한 다른 고차원 사이버 물리 및 사회 기술 시스템에도 확장될 수 있어 그 파급력이 클 것으로 예상됩니다.