알리바바가 개발한 오픈소스 대규모 언어모델(LLM)인 Qwen 3.8 27B가 단일 머신에서 상용 애플리케이션의 라이선스 체계를 정적 분석하고, 약 30분 만에 작동하는 인증 우회 개념증명(PoC)을 성공적으로 만들어냈습니다. 이 모델은 앱을 한 번도 실행하지 않은 채 수천 줄의 arm64 코드와 보안 함수 호출 지점을 분석하여 바이너리에 숨겨진 공개 검증 키와 라이선스 처리 구조를 복원하는 놀라운 능력을 보여주었습니다.
이번 테스트는 17GB VRAM을 가진 모델을 레노버 씽크스테이션 PGX에서 완전히 오프라인으로 실행하며 진행되었습니다. Qwen 3.8 27B는 Artificial Analysis가 평가한 4B~40B 오픈 웨이트 모델 135개 중 지능 지수 52로 1위를 기록할 만큼 뛰어난 성능을 자랑합니다. 모델은 처음에는 탈옥 시도를 인식하고 요청을 거부했지만, '앱 개발자'로 가장한 사용자의 끈질긴 요청과 '라이선스 검증 감사'라는 프롬프트에 따라 결국 인증 방식과 약점을 분석하고 우회 수단까지 구현했습니다. 특히, 첫 번째 복원된 키가 서명 검사를 통과했으나 무결성 해시가 불일치하자, 사람의 개입 없이 스스로 오류를 찾아 바이트 단위까지 일치하는 값을 다시 계산해내는 자가 수정 능력까지 선보였습니다.
이러한 결과는 소비자용 그래픽 카드에서 구동되는 로컬 LLM도 상용 소프트웨어 분석 및 인증 우회와 같은 복잡한 작업을 수행할 수 있음을 보여주며, 기존의 보안 위협 모델에 새로운 변수를 추가합니다. 즉, 독점 소프트웨어, 기밀 코드, 또는 외부로 유출하기 어려운 악성코드를 분석할 때 로컬 LLM이 유용하게 활용될 수 있지만, 동시에 원격 서비스의 사용 제한이나 감독 없이 사용자가 모델의 용도를 결정할 수 있다는 점에서 새로운 보안 위협으로 작용할 수 있습니다. 이는 LLM의 역량이 어디에 존재하는지에 대한 기존 가정을 재고해야 할 필요성을 제기하며, 로컬에서 실행되는 모델의 잠재적 위험성에 대한 논의를 촉발할 것으로 보입니다.