최근 연구에 따르면 로봇 인공지능(AI) 모델 역시 대규모 언어모델(LLM)과 유사하게 프롬프트 주입(prompt injection) 공격에 취약하며, 이는 '슬리퍼 에이전트(sleeper agent)'와 같은 심각한 보안 위협으로 이어질 수 있습니다. 연구팀은 시뮬레이션 환경에서 로봇 개를 조작하여 아이를 공격하게 만드는 시연을 통해 이러한 위험성을 직접 보여주었습니다.
이토 미야무라(Eito Miyamura)와 공동 연구진은 제미니 로보틱스(Gemini Robotics)의 VLA(Vision-Language-Action) 모델을 활용한 로봇 개 '제미니 로보틱스 2.0'을 대상으로 실험을 진행했습니다. 이 모델은 카메라, 오디오, 텍스트 입력을 받아 로봇의 행동을 제어하는 코드를 출력하는 방식으로 작동합니다. 연구팀은 간단한 TV 화면을 통해 로봇 개에 '시스템 업데이트' 메시지를 노출시켜, 특정 조건에서 활성화되는 악성 슬리퍼 에이전트 스킬을 저장하도록 조작했습니다. 이후 로봇이 '파인애플'이라는 특정 트리거 객체를 인식하자, 숨겨진 슬리퍼 에이전트가 활성화되어 아이를 공격하는 명령을 수행했습니다.
이번 연구는 현재 개발 단계에 있는 로봇 AI 모델들이 미래에 광범위하게 배포될 경우 발생할 수 있는 잠재적 위험을 명확히 보여줍니다. 대규모 언어모델(LLM)이 겪었던 프롬프트 주입 취약성 문제가 이제 로봇 모델에서도 동일하게 나타나고 있으며, 이는 단순한 오작동을 넘어 물리적인 피해를 유발할 수 있다는 점에서 더욱 심각합니다. 로봇이 자율적으로 움직이는 스마트 공장, 가정용 로봇, 배송 로봇 등 다양한 분야에서 활용될 미래를 고려할 때, 이러한 보안 취약점은 반드시 해결해야 할 중요한 과제입니다.