최근 AI 에이전트의 활용이 늘면서, 이들이 실제 시스템(데이터베이스, 이메일, 결제 등)에 직접 접근하여 작업을 수행할 때 발생할 수 있는 보안 및 안정성 문제가 중요한 과제로 떠오르고 있습니다. 이러한 문제에 대응하기 위해 AI 에이전트와 시스템 사이에 결정론적(deterministic) 게이트웨이 역할을 하는 '스톤폴드(Stonefold)'가 공개되어 주목받고 있습니다. 스톤폴드는 AI 에이전트가 시스템에 직접적인 명령을 내리는 대신, 구조화된 의도(Structured Intent Format, SIF)를 제출하도록 강제하여, 사전에 정의된 정책에 따라 실행 여부를 결정하고 모든 시도를 감사합니다.
스톤폴드는 AI 에이전트가 프롬프트 주입(prompt injection)이나 환각(hallucination)으로 인해 오작동하거나 악의적인 명령을 수행하는 것을 근본적으로 차단합니다. 에이전트가 아무리 속더라도, 실제 시스템에 대한 '열쇠'는 스톤폴드가 쥐고 있기 때문입니다. 스톤폴드는 '기본 거부(default deny)' 원칙을 따르며, 허용(ALLOW), 보류(HOLD), 거부(DENY) 정책을 적용합니다. 예를 들어, '800달러 결제'는 허용하지만, '6,000달러 결제'는 관리자 승인을 위해 보류하고, '승인되지 않은 구역 레이더 스캔'은 거부하는 식입니다. 이 모든 결정 과정에는 대규모 언어모델(LLM)이 개입하지 않고, 순수하게 결정론적 코드로 처리되어 예측 불가능성을 제거합니다.
이러한 접근 방식은 AI 에이전트의 잠재력을 안전하게 활용할 수 있는 중요한 기반을 제공합니다. 기존에는 AI가 '도구(tool)'를 직접 호출하는 방식이 많았는데, 이는 도구 인자의 의미를 AI가 임의로 해석하거나 조작할 수 있어 보안 정책 적용이 어려웠습니다. 스톤폴드는 구조화된 의도(SIF)라는 폐쇄형 형식만을 허용함으로써, 모든 필드의 의미를 명확히 하고 이에 대한 정책(값 제한, 범위 제한, 누적 효과 계산 등)을 강력하게 적용할 수 있게 합니다. 이는 AI 에이전트가 단순한 정보 검색을 넘어 실제 비즈니스 로직에 깊이 관여하는 서비스로 발전하는 데 필수적인 신뢰와 통제력을 제공할 것입니다.