최근 체크포인트(Check Point) 연구팀이 대규모 언어모델(LLM) 게이트웨이인 LiteLLM에서 여러 심각한 보안 취약점을 발견하며 LLM 애플리케이션의 잠재적 위험성을 경고했습니다. LLM 게이트웨이는 다양한 LLM API를 통합하고 관리하는 중요한 역할을 하지만, 이번 발견은 이러한 게이트웨이가 해커의 새로운 공격 벡터가 될 수 있음을 시사합니다.
발견된 취약점들은 크게 세 가지 유형으로 나뉩니다. 첫째, 경로 탐색(Path Traversal) 취약점은 공격자가 서버의 임의 파일에 접근하여 민감한 정보를 탈취하거나 설정을 변경할 수 있게 합니다. 둘째, 인증 우회(Authentication Bypass) 취약점은 API 키 없이도 LLM API에 접근하여 무단으로 모델을 사용하거나 데이터를 조작할 수 있도록 합니다. 셋째, 서비스 거부(Denial of Service, DoS) 취약점은 악의적인 요청으로 게이트웨이 서버에 과부하를 주어 정상적인 서비스 제공을 방해할 수 있습니다. LiteLLM 개발팀은 체크포인트의 보고를 받은 후 신속하게 패치를 배포하여 해당 취약점들을 해결했습니다.
이번 LiteLLM 사례는 LLM을 활용하는 기업과 개발자들이 게이트웨이 및 관련 인프라의 보안에 더욱 주의를 기울여야 함을 보여줍니다. LLM 게이트웨이는 여러 모델과 사용자 요청을 한곳으로 집중시키는 특성상, 하나의 취약점이 전체 시스템에 치명적인 영향을 미칠 수 있습니다. 따라서 LLM 애플리케이션을 구축할 때는 단순히 모델 자체의 보안뿐만 아니라, 데이터를 주고받는 게이트웨이와 API 관리 시스템 전반에 걸친 철저한 보안 검토와 지속적인 업데이트가 필수적입니다.