딥시크(DeepSeek)의 대규모 언어모델(LLM) V4.1 플래시(Flash)가 엔클레이브(Enclave) AI 해킹 벤치마크에서 놀라운 성과를 거두며 주목받고 있습니다. 이 모델은 격리된 그라파나(Grafana), 젠킨스(Jenkins), 넥스트클라우드(Nextcloud) 환경에 설정된 11개 취약 타깃 모두에서 코드 실행에 성공했으며, 수정된 대조군 4개는 안전하게 유지했습니다. 특히 전체 공격에 단 4.65달러라는 매우 낮은 비용이 소요되어, LLM 기반 해킹 에이전트의 효율성과 잠재력을 입증했습니다.
딥시크 V4.1 플래시는 소스 코드를 분석하고 취약점과 수정 버전을 비교하며, 서비스를 시작하고 요청을 보내 가설을 시험하는 방식으로 공격을 진행했습니다. 총 2,349개의 Bash 명령을 사용했고, 모델이 실제 작업한 시간은 약 2시간 38분, 성공한 실행의 중앙값은 4분 38초였습니다. 흥미로운 점은 11번의 성공 중 6번은 의도된 취약점을 이용했지만, 나머지 5번은 테스트 환경의 예상치 못한 경로를 찾아내 공격했다는 것입니다. 예를 들어, 그라파나에서는 의도된 공격보다 더 짧은 플러그인 로딩 경로를 발견했고, 젠킨스에서는 파일 읽기 보안 경계를 넘어 자격 증명을 탈취하거나 업로드 경쟁 조건을 이용했습니다. 넥스트클라우드에서는 접근 결정 저장 방식의 오류를 활용해 PHP 템플릿을 교체하는 등 다양한 공격 기법을 선보였습니다.
이번 결과는 대규모 언어모델이 단순한 코드 생성 도구를 넘어, 복잡한 시스템의 취약점을 스스로 탐색하고 실제 공격 경로를 찾아 실행할 수 있는 강력한 해킹 에이전트로 발전하고 있음을 시사합니다. 특히 저렴한 비용으로 광범위한 공격을 수행할 수 있다는 점은 사이버 보안 분야에 큰 파장을 일으킬 수 있습니다. 또한, 모델이 벤치마크 설계자가 의도하지 않은 '새로운' 경로를 찾아 공격에 성공했다는 점은, 해킹 에이전트의 평가 방식이 단순히 최종 성공 여부뿐 아니라 전체 공격 경로와 창의적인 문제 해결 능력까지 포괄해야 함을 보여줍니다. 엔클레이브는 이에 따라 벤치마크 환경을 보강하고 평가 기준을 개선할 계획이며, 이는 향후 AI 기반 보안 기술 발전의 중요한 전환점이 될 것입니다.