AI 에이전트의 활용이 늘면서, 에이전트의 자율적인 행동을 안전하게 관리하고 통제하는 것이 중요한 과제로 떠오르고 있습니다. 최근 데스클레스(Descles)는 AI 에이전트의 메시지 응답 수준에서 제어 기능을 제공하는 기술 프리뷰를 공개했습니다. 이는 에이전트가 수행하는 모델 호출, 외부 도구 사용, 시스템 자원 접근 등에 대한 승인 워크플로우를 도입하여, 기업이 AI 에이전트의 행동을 실시간으로 감시하고 필요시 개입할 수 있도록 돕는 솔루션입니다.
데스클레스는 기존에 사용하던 AI 에이전트를 그대로 유지하면서 엔드포인트만 변경하여 쉽게 통합할 수 있습니다. 예를 들어, OpenAI SDK를 사용하는 경우 API 키와 엔드포인트만 데스클레스 게이트웨이로 변경하면 됩니다. 이 게이트웨이를 통해 모든 모델 트래픽이 흐르면서 예산 확인, 정책 적용, 도구 호출 검사 등의 제어 로직이 작동합니다. 특히, 에이전트가 'kubectl delete pod checkout-api'와 같은 민감한 터미널 명령을 제안할 경우, 이를 즉시 실행하지 않고 관리자의 승인을 요청하도록 설정할 수 있습니다. 이를 통해 예기치 않은 시스템 변경이나 데이터 손실과 같은 위험을 사전에 방지할 수 있습니다.
이 솔루션은 기업이 AI 에이전트를 더 안전하고 효율적으로 운영할 수 있도록 돕는 중요한 진전입니다. 개발팀은 에이전트의 행동을 중앙에서 추적하고, 누가 어떤 작업을 요청했는지, 어떤 정책이 적용되었는지, 누가 승인했는지 등 모든 과정을 기록하고 감사할 수 있습니다. 이는 AI 에이전트의 책임성을 강화하고, 규제 준수(compliance)에도 기여할 수 있습니다. 또한, 제공자 키를 중앙에서 관리하고 사용량을 추적하여 예산을 효율적으로 통제할 수 있다는 장점도 있습니다. 데스클레스는 현재 모델 I/O(입출력) 제어와 응답 수준의 도구 호출 제어를 지원하며, 향후 실행 통합 및 감사 기능 강화를 계획하고 있습니다.