최근 인공지능(AI) 에이전트가 스스로 코드를 작성하고 실행하는 자율 AI(Autonomous AI) 시대가 도래하면서, AI가 생성한 신뢰할 수 없는(untrusted) 코드를 안전하게 실행하는 것이 중요한 보안 과제로 떠올랐습니다. 이러한 문제를 해결하기 위해 정책 기반의 코드 실행 보호 도구인 '벨라(Vela)'가 출시되었습니다. 벨라는 AI 에이전트가 생성한 코드를 호스트 서버에 직접 실행할 때 발생할 수 있는 잠재적인 보안 위험을 효과적으로 차단하는 데 중점을 둡니다.
벨라는 에이전트 런타임(Aegis runtime)을 기반으로 하며, 아마존 웹 서비스(AWS)의 파이어크래커(Firecracker) 마이크로-VM(micro-VM) 기술을 활용하여 격리된 환경에서 코드를 실행합니다. 이는 마치 작은 가상 컴퓨터를 만들어 그 안에서만 코드가 작동하도록 하는 방식입니다. 또한, HMAC(Hash-based Message Authentication Code) 역량 토큰을 사용하여 코드의 접근 권한을 세밀하게 제어하며, 파일 시스템 및 네트워크 접근에 대한 정교한 제한을 설정할 수 있습니다. 이를 통해 개발자는 AI 코드가 시스템에 미칠 수 있는 영향을 최소화하고, 모든 실행 과정에 대한 상세한 JSONL 감사 추적(audit trail)을 확보할 수 있습니다.
벨라는 MIT 라이선스의 오픈소스 프로젝트로, 랭체인(LangChain)과 라마인덱스(LlamaIndex)와 같은 인기 있는 AI 애플리케이션 개발 프레임워크와의 통합을 염두에 두고 설계되었습니다. 이는 AI 개발자들이 보안 문제에 대한 걱정 없이 자율 AI 에이전트를 구축하고 배포할 수 있도록 돕는 중요한 인프라 도구로 작용할 것입니다. AI 에이전트의 활용이 점차 확대됨에 따라, 이처럼 신뢰할 수 없는 코드를 안전하게 다루는 기술은 AI 시스템의 안정성과 신뢰성을 확보하는 데 필수적인 요소가 될 것입니다.