AI 에이전트가 실제 업무 환경에 깊숙이 통합되면서, 환불 처리, 계정 변경, 프로덕션 데이터베이스 기록 등 민감하고 중요한 작업을 인간의 감독 없이 수행하는 경우가 늘고 있습니다. 이러한 자동화는 효율성을 높이지만, 오작동이나 의도치 않은 결과 발생 시 책임 소재를 파악하기 어렵고, 누가 언제 어떤 결정을 승인했는지에 대한 명확한 기록이 없어 심각한 보안 및 규제 문제를 야기할 수 있습니다. 이러한 문제를 해결하기 위해 'Approv'라는 새로운 솔루션이 등장했습니다.
Approv는 AI 에이전트의 잠재적으로 위험한 행동을 감지하면 즉시 작업을 일시 중지시킵니다. 이후, 지정된 인간 관리자에게 왓츠앱(WhatsApp) 메시지(SMS 대체 옵션 제공)를 통해 해당 행동에 대한 승인 또는 거부를 요청합니다. 이 과정에서 모든 상태 변경, 즉 승인 요청, 승인 또는 거부 결정 등은 Ed25519 암호화 서명을 통해 해시(hash)되고 기록됩니다. 이는 누가, 언제, 무엇을 승인했는지에 대한 위변조 불가능한 감사 추적(audit trail)을 제공하여, AI 시스템 운영의 투명성과 신뢰성을 획기적으로 높이는 핵심 기능입니다.
이러한 솔루션은 AI 에이전트의 활용 범위를 넓히는 동시에, 기업이 AI 시스템 운영에 대한 책임(accountability)을 명확히 하고 규제 준수(compliance)를 강화하는 데 필수적입니다. 특히 금융, 의료, 법률 등 규제가 엄격한 산업에서 AI 에이전트를 도입할 때 Approv와 같은 인간 개입 및 감사 추적 시스템은 필수적인 안전장치 역할을 할 것입니다. 이는 AI 기술의 발전과 상용화 속도를 저해하지 않으면서도, 잠재적 위험을 효과적으로 관리하고 인간의 통제권을 유지할 수 있는 중요한 균형점을 제시합니다.