AI 에이전트의 보안 취약점을 체계적으로 분석하고 강화하기 위한 새로운 시뮬레이터 '라이프 포지(LIFE FORGE)'가 공개되어 주목받고 있습니다. 이 플랫폼은 AI 에이전트가 실제 기업 환경에서 겪을 수 있는 다양한 공격 시나리오와 환경 변화를 시뮬레이션하여, 모델의 약점을 정밀하게 파악합니다. 특히, 대규모 언어모델(LLM)의 보안 등급을 매긴 결과, 모델 규모가 커질수록 오히려 보안 취약점이 증가하는 '스케일 역설(Scale Paradox)' 현상이 관찰되어 업계에 중요한 시사점을 던지고 있습니다.
'라이프 포지'는 3D MAP-Elites 품질-다양성 엔진을 활용해 공격 강도, 환경 변동성, 예산 압박이라는 세 가지 축에서 에이전트의 취약성을 종합적으로 매핑합니다. 이를 통해 단순히 하나의 실패 지점을 찾는 것을 넘어, 에이전트의 '취약성 지형' 전체를 파악할 수 있습니다. 시뮬레이션은 재고 조회, 공급업체 API 호출, 구매 주문, 이메일 전송, 자금 이체 등 5가지 기업 도구와 상호작용하며, 무단 도구 실행, 무단 자금 유출, 반복 루프, 목표 미달성 등 4가지 정책 위반을 실시간으로 감지하는 '불변 정책 오라클(Invariant Policy Oracle)'을 통해 에이전트의 행동을 감시합니다.
벤치마크 결과는 매우 흥미롭습니다. 8B 모델인 라마 3.1(llama3.1:8b)과 딥시크-R1(deepseek-r1:8b)은 치명적인 무단 송금(wire exfiltration)이 전혀 발생하지 않았지만, 24B, 33B와 같은 대규모 모델에서는 8~14건의 치명적인 보안 위반이 발생했습니다. 이는 모델의 크기가 커질수록 프롬프트 주입(prompt injection) 공격에 더 취약해질 수 있음을 보여줍니다. 또한, 코드 특화 모델인 큐웬 2.5-코더(Qwen 2.5-Coder)와 딥시크-코더(DeepSeek-Coder)는 일반 모델보다 프롬프트 주입에 71% 더 취약한 것으로 나타나, 특정 목적의 미세조정(fine-tuning)이 오히려 새로운 보안 위험을 초래할 수 있음을 경고합니다. 이러한 연구 결과는 AI 에이전트 개발자들이 모델의 규모나 특정 기능에만 집중할 것이 아니라, 실제 운영 환경에서의 보안 취약점을 심층적으로 분석하고 대응하는 것이 필수적임을 강조합니다.