AI 보안 스타트업 에어드랩(Airedlab)이 대규모 언어모델(LLM)의 보안 취약점을 직접 해킹하며 배울 수 있는 무료 실습 플랫폼 '프롬프트트레이스(PromptTrace)'를 출시했습니다. 이 플랫폼은 프롬프트 주입(prompt injection), AI 레드팀(red teaming), RAG 오염(RAG poisoning), 도구 악용(tool exploitation) 등 실제 공격 기법을 샌드박스(sandboxed) 환경에서 연습할 수 있도록 설계되었습니다.
프롬프트트레이스는 10개의 실습 랩, 17개의 CTF(Capture The Flag) 레벨, 9개의 학습 모듈, 70개 이상의 엄선된 자료를 제공합니다. 사용자는 '컨텍스트 트레이스(Context Trace)' 기능을 통해 시스템 지침, RAG 컨텍스트, 도구 정의, 사용자 입력 등 LLM에 전달되는 프롬프트 레이어를 실시간으로 검사하며 공격 원리를 이해할 수 있습니다. 특히, OWASP(Open Worldwide Application Security Project)의 LLM 애플리케이션 및 에이전트 애플리케이션 상위 10대 보안 취약점 가이드라인에 맞춰 학습 경로가 구성되어 있어 체계적인 학습이 가능합니다.
이 플랫폼은 LLM 보안에 대한 경험이 없는 사용자도 쉽게 시작할 수 있도록 기초부터 설명하며, 모든 학습 모듈과 랩은 무료로 제공됩니다. 프롬프트트레이스는 LLM 기반 서비스 개발자나 보안 전문가들이 잠재적인 위협을 미리 파악하고 방어 전략을 수립하는 데 필수적인 도구가 될 것입니다. LLM의 활용이 증가함에 따라 보안 취약점도 함께 늘어나고 있어, 이러한 실습 기반 학습은 실제 서비스의 안정성을 높이는 데 크게 기여할 것으로 기대됩니다.