대규모 언어모델(LLM) 기반의 AI 에이전트(agent)들이 단순한 비서 역할을 넘어, 여러 에이전트와 계획기, 제어기 등이 함께 작동하는 복합적인 시스템으로 진화하고 있습니다. 이러한 환경에서는 개별 에이전트의 안전을 넘어, 시스템 전체의 행동이 사용자나 기업 환경에 미칠 영향을 관리하는 것이 중요해졌습니다. 기존의 안전 장치들은 프롬프트(prompt)나 도구 호출(tool call) 등 개별적인 부분에 집중되어 있어, 여러 단계에 걸친 에이전트 행동 흐름에서 발생할 수 있는 위험을 효과적으로 막기 어렵다는 한계가 있었습니다.
이러한 문제를 해결하기 위해 '오픈에이전트플로우(OpenAgentFlow)'라는 새로운 제어 평면/액션 평면(control-plane/action-plane) 아키텍처가 제안되었습니다. 이 아키텍처는 에이전트가 생성하는 그래픽 사용자 인터페이스(GUI) 액션, API 호출, 도구 호출, LLM 생성 호출 등 모든 보류 중인 행동을 '에이전트이벤트(AgentEvent)'라는 단일 스트림으로 통합합니다. 그리고 이 통합된 이벤트를 공유된 사전 실행 정책 적용 지점(Policy Enforcement Point)을 통해 라우팅하여, 모든 행동이 시스템 전체의 안전 정책을 준수하도록 강제합니다. 또한, 제어 평면에서 출처, 세션 상태, 감사 기록, 업데이트 가능한 정책을 관리하여, 에이전트나 프롬프트, 모델을 수정하지 않고도 새로운 규칙을 적용할 수 있게 합니다.
연구팀은 안드로이드(Android) 환경에서 오픈에이전트플로우를 구현하여 그 성능을 검증했습니다. 300가지 액션 이벤트 벤치마크에서 94.0%의 정확도와 95.3%의 공격 차단율을 달성했으며, 30가지 동적 정책 스위트에서는 새로운 규칙 설치 후 27가지 사례에서 예상된 동작과 일치하는 결과를 보였습니다. 이는 오픈에이전트플로우가 이기종 AI 에이전트 집합(heterogeneous AI agent fleets)을 위한 실용적인 공유 안전 경계(shared enforcement boundary)를 제공할 수 있음을 입증합니다. 이러한 시스템 수준의 안전 메커니즘은 AI 에이전트가 더욱 복잡하고 중요한 역할을 수행하는 미래에 필수적인 요소가 될 것입니다.