로컬 대규모 언어모델(LLM) 에이전트 개발과 테스트를 한곳에서 진행할 수 있는 오픈소스 프로젝트 'Spring AI Playground'가 주목받고 있습니다. 이 플랫폼은 에이전트 개발자들이 복잡한 코딩 없이도 툴 검색, 사람 개입(Human-in-the-Loop, HITL) 승인, 그리고 다양한 MCP(Multi-Cloud Platform) 연동 기능을 손쉽게 구현하고 검증할 수 있도록 돕습니다. 최근 국가통계포털(KOSIS)의 MCP 시범 서비스와 연동하여 합계출산율 데이터를 조회하고 시각화하는 데모를 선보이며 그 가능성을 입증했습니다.
데모에서는 노트북에서 실행되는 9B 로컬 모델을 활용해 API 키 없이 KOSIS에서 합계출산율(2015년 1.20 → 2024년 0.73)을 찾아 차트로 그리고, 12개국 비교 로즈 차트, 8개국 2015년 대비 2024년 히트맵 등을 생성했습니다. 특히, '요약을 CSV로 저장해줘'와 같은 파일 쓰기 명령 시에는 L4 위험 등급으로 분류되어 사용자에게 승인 창이 뜨고, 사용자가 직접 'Approve'를 눌러야만 실제 저장이 이루어졌습니다. 이는 파일 쓰기처럼 잠재적으로 위험한 작업에 대해 사람이 직접 확인하고 승인하는 HITL 메커니즘을 UI에서 구현한 것으로, 에이전트의 오작동이나 악용을 방지하는 중요한 안전장치입니다.
Spring AI Playground는 원래 Spring AI의 기능을 하나씩 체험하는 플레이그라운드였으나, Spring AI 2.0에서 에이전트와 MCP가 프레임워크 코어로 통합되면서 로컬 LLM 에이전트 개발 및 테스트 워크벤치로 진화했습니다. 개발자들은 이 도구를 통해 MCP 연결, 동적 툴 검색(Dynamic Tool Discovery), 위험도 기반 승인 게이트 등을 자바 코드를 직접 작성하지 않고도 데스크톱 앱에서 시각적으로 확인하고 테스트할 수 있습니다. 또한, 채팅, 도구 호출, 토큰 사용량, 비용, 리스크 등을 한눈에 볼 수 있는 관측(Observability) 대시보드를 제공하여 에이전트의 동작을 투명하게 분석할 수 있습니다. 이 프로젝트는 프롬프트가 외부로 나가지 않고 로컬에서 모델이 실행되므로 데이터 보안 측면에서도 강점을 가집니다.
이러한 통합 개발 환경은 LLM 에이전트 개발의 진입 장벽을 낮추고, 특히 안전하고 신뢰할 수 있는 에이전트 시스템 구축에 기여할 것입니다. HITL과 같은 안전 메커니즘의 도입은 에이전트가 민감한 데이터를 다루거나 시스템에 직접적인 변경을 가할 때 발생할 수 있는 위험을 최소화하며, 사용자에게 더 큰 통제권을 부여합니다. 이는 LLM 에이전트가 실제 비즈니스 환경에 적용될 때 필수적인 요소로, 개발자들이 안전성을 확보하면서도 혁신적인 에이전트 서비스를 만들 수 있는 기반을 마련해 줍니다.