대규모 언어모델(LLM) 기반의 자율형 AI 에이전트(Agentic AI) 시스템이 기업 환경에 확산되면서 새로운 차원의 보안, 개인정보보호, 규정 준수 문제가 발생하고 있습니다. AI 에이전트가 도구를 호출하고, 데이터를 조작하며, 소프트웨어를 설치하고, 심지어 다른 에이전트와 협업하는 등 광범위한 권한을 가질 수 있기 때문에, 단순히 접근 제어(access control)를 넘어선 전사적 거버넌스(enterprise governance) 체계가 필수적입니다.
기존의 정책 엔진(policy engine)들은 주로 '허용(permit)하거나 금지(prohibit)하는' 방식에 초점을 맞췄습니다. 하지만 AI 에이전트의 복잡한 행동을 관리하기 위해서는 특정 행동 후 '무엇을 의무적으로 해야 하는지(obligation)', 예를 들어 최고정보보호책임자(CISO)에게 알리거나 특정 조건을 충족하면 의무를 면제(dispensation)하는 등의 기능이 필요합니다. 또한, 정책 간 충돌 발생 시 우선순위를 정하고, 헬스케어나 사이버 보안 같은 도메인 특화된 온톨로지(ontology) 기반의 추론 능력도 요구됩니다. 이 논문은 이러한 요구사항을 충족하기 위해 '의무' 개념을 포함한 디온틱(deontic) 정책 언어 기반의 'AgenticRei' 프레임워크를 제안합니다. 이는 OWL(Web Ontology Language)로 표현되며, LLM 외부의 고성능 논리 엔진(logic engine)이 런타임에 이를 평가하여 에이전트의 도구 호출과 에이전트 간 메시지 모두를 효과적으로 제어합니다.
이러한 디온틱 정책은 기존 시스템으로는 표현하기 어려웠던 보안 및 개인정보보호 관련 거버넌스 제약을 포착할 수 있다는 점에서 중요합니다. AI 에이전트가 자율적으로 행동할 때 발생할 수 있는 잠재적 위험을 줄이고, 기업이 요구하는 규정 준수(compliance) 수준을 달성하는 데 핵심적인 역할을 할 것입니다. 이는 AI 에이전트의 신뢰성과 책임성을 높여, 더 많은 기업이 AI 에이전트를 안전하게 도입하고 활용할 수 있는 기반을 마련해 줄 것으로 기대됩니다.