시스코(Cisco)가 대규모 언어모델(LLM)의 보안 취약점을 평가하는 리더보드(Leaderboard)에 새로운 변화를 주었습니다. 기존에는 텍스트 기반의 공격 및 방어 능력만을 평가했지만, 이제는 이미지와 오디오 등 다양한 모달리티(modality)에서 발생할 수 있는 에이전트(agent) 위험까지 포함하여 평가 범위를 확장했습니다. 이는 LLM이 단순히 텍스트를 넘어 이미지 생성, 음성 인식 등 멀티모달 기능을 수행하는 방향으로 발전하면서, 이에 따른 새로운 보안 위협에 선제적으로 대응하기 위함입니다.
이번 업데이트는 LLM 기반 에이전트가 실제 환경에서 더 많은 권한과 자율성을 가지게 되면서 발생할 수 있는 잠재적 위험을 반영합니다. 예를 들어, 악의적인 이미지나 오디오 프롬프트(prompt)를 통해 LLM 에이전트가 민감한 정보를 유출하거나, 시스템에 대한 접근 권한을 탈취하는 등의 공격 시나리오가 가능해집니다. 시스코는 이러한 멀티모달 공격 벡터(attack vector)에 대한 LLM의 방어 능력을 측정하고, 개발자들이 더욱 안전한 AI 시스템을 구축할 수 있도록 돕는 것을 목표로 하고 있습니다.
이번 리더보드 확장으로 LLM 보안 평가의 표준이 한 단계 진화할 것으로 보입니다. 텍스트 중심의 기존 보안 프레임워크로는 멀티모달 환경의 복잡한 위협을 모두 포괄하기 어려웠기 때문입니다. 앞으로 LLM 개발사들은 단순히 모델의 성능뿐만 아니라, 다양한 입력 방식에 대한 보안 견고성까지 고려해야 할 것입니다. 이는 사용자들에게 더 안전한 AI 서비스를 제공하고, LLM 에이전트의 광범위한 도입을 위한 신뢰 기반을 마련하는 데 중요한 역할을 할 것입니다.