로컬 환경에서 인공지능(AI) 에이전트를 효율적으로 관리할 수 있는 웹 콘솔 '플릿(Fleet)'이 최근 공개되었습니다. 플릿은 도커(Docker) 컨테이너 기반의 헤르메스(Hermes) AI 에이전트와 엔비디아(NVIDIA)에 최적화된 네모 헤르메스(Nemo Hermes) 에이전트를 생성, 설정, 모니터링, 운영하는 데 특화된 도구입니다. 개인 워크스테이션, 홈랩, VPN, 또는 신뢰할 수 있는 근거리 통신망(LAN) 환경에서 여러 대의 머신에 분산된 에이전트를 단일 대시보드에서 관리할 수 있도록 지원합니다.
플릿은 에이전트의 서비스 상태, 리소스 사용량, 게이트웨이 진단, 업데이트 상태 등을 한눈에 보여주며, 에이전트별 채팅 세션, VNC, 터미널 접근, 로컬 웹 게시 등 다양한 기능을 제공합니다. 특히 OpenAI 코덱스(Codex), 올라마(Ollama), 오픈라우터(OpenRouter) 등 다양한 AI 제공자의 기본 설정과 공유 자격 증명을 중앙에서 관리하고, 선택한 에이전트에 동기화할 수 있습니다. 데이터와 비밀 정보는 기본적으로 로컬에 저장되어 보안을 강화하며, 백업, 복원, 복제 기능도 지원하여 에이전트 운영의 편의성을 높였습니다.
이러한 플릿의 등장은 AI 에이전트 개발 및 운영 환경에 중요한 변화를 가져올 것으로 보입니다. 특히 복잡한 클라우드 인프라 없이도 개인이나 소규모 팀이 자체 AI 에이전트 인프라를 구축하고 관리하는 데 큰 도움이 될 것입니다. 로컬 우선 설계는 데이터 주권과 보안을 중시하는 사용자들에게 매력적인 선택지가 될 수 있으며, 다양한 AI 모델과의 연동을 통해 유연한 AI 서비스 개발을 촉진할 것으로 기대됩니다. 이는 AI 기술의 민주화와 개인화된 AI 활용 시대를 가속화하는 데 기여할 것입니다.