일반적인 줄글 속에 악성 명령을 교묘하게 숨겨 인공지능(AI)의 사전 보안 검증 시스템을 무력화하고 고성능 AI를 조종하는 새로운 보안 취약점, '퍼즐마스크(PuzzleMask)'가 드러났습니다. 전문 번역 연구진이 공개한 이 프롬프트 조작 기술은 특수 기호 없이 순수한 영어 일반 문장만을 활용하여, 마치 퍼즐처럼 악성 명령을 숨겨 AI 정책 검사를 우회합니다.
이 공격 방식은 평범한 풍경 묘사 글이나 소설 본문, 심지어 제품 설명서 같은 일반적인 텍스트 속에 문서 암호화나 유해 정보 요구와 같은 위험한 지시를 은닉합니다. 자원이 부족한 소형 검문 모델(gpt-4o-mini, gpt-oss-safeguard, claude-3-haiku, llama-guard3 등)은 숨겨진 명령을 식별하지 못하고 100% 확률로 해당 입력을 안전하다고 판단하여 상위 모델로 넘깁니다. 반면, 심층 추론 능력과 도구 접근 권한을 갖춘 고성능 표적 모델(예: gpt-5-thinking-high)은 약 1분간의 연산과 복수의 코드 실행을 거쳐 90%가 넘는 확률로 숨겨진 명령을 복원하고 실제 작업에 착수하는 것으로 실험 결과 밝혀졌습니다. 이는 중요 파일 내용 유출이나 데이터 암호화 같은 파괴적인 명령도 실행될 수 있음을 의미합니다. 다만, Anthropic의 Opus 계열 모델만이 자체 차단 기능으로 이 공격을 유일하게 막아냈습니다.
퍼즐마스크는 기존의 AI 보안 모델들이 특수 기호나 비정상적인 구문을 통해 악성 프롬프트를 탐지하는 방식의 한계를 명확히 보여줍니다. 이 기술은 AI 시스템의 사전 검문 단계를 무력화하여, 공격자가 순수한 줄글만으로 검증망을 건너뛰어 대상 모델에 임의의 지시를 보낼 수 있게 합니다. 이러한 위협에 대응하기 위해서는 사용자 입력을 다른 문장으로 재작성하여 은닉 구조를 파괴하거나, 검문 모델에 자기 참조 표현 감지 규칙을 추가하는 등의 방안이 필요합니다. 또한, 모델의 입력뿐만 아니라 최종 출력과 행동을 감시하는 체계적인 보안 강화가 필수적이며, AI 시스템 전반의 보안 패러다임 전환이 시급함을 시사합니다.