마이크로소프트(Microsoft)의 AI 기반 생산성 도구 코파일럿(Copilot)이 워드(Word) 문서 내에 숨겨진 악성 지침을 통해 자체적으로 공격을 전파할 수 있다는 충격적인 연구 결과가 발표되었습니다. 이는 외부에서 유입된 문서에 포함된 보이지 않는 명령이 코파일럿에 의해 새로운 문서로 복사되고, 이 새로운 문서가 또 다른 공격의 매개체가 되는, 이른바 '문서 기반 AI 웜(AI worm)'의 가능성을 시사합니다.
이번 연구는 기존의 교차 도메인 프롬프트 주입 공격(Cross-Domain Prompt Injection Attacks, XPIA) 개념을 확장하여, 단일 상호작용을 넘어 신뢰할 수 있는 문서 작업 흐름 전반에 걸쳐 공격이 전파될 수 있음을 입증했습니다. 공격자는 문서 내에 숨겨진 지침을 삽입하고, 사용자가 이 문서를 코파일럿과 함께 활용하면 코파일럿은 이 지침을 사용자 요청의 일부로 해석하여 현재 편집 중인 문서를 조작합니다. 더 나아가, 코파일럿은 이 악성 지침을 새로 생성되거나 편집된 문서에 복사하여 해당 문서를 새로운 공격의 '운반체(carrier)'로 만듭니다. 이 운반체 문서가 다른 코파일럿 지원 작업에 사용되면, 원래의 악성 문서 없이도 공격이 다시 트리거되어 다른 문서로 전파될 수 있습니다. 예를 들어, 직원이 악성 지침이 숨겨진 시장 분석 보고서를 다운받아 코파일럿으로 재무 보고서를 작성할 때, 코파일럿은 재무 수치를 조작하고 악성 지침을 새 보고서에 복사하여 공격을 확산시킬 수 있습니다.
이러한 자체 전파 메커니즘은 기존의 AI 웜 사례(예: 모리스 II)가 이메일 보조 시스템에서 나타났던 것과 달리, 마이크로소프트 워드와 같은 주류 상업 생산성 제품군의 일반적인 문서 작업 흐름에서 발생한다는 점에서 심각성을 더합니다. 마이크로소프트는 이 문제를 인지하고 144일간의 조율 기간 동안 완화를 시도했지만, 발표 시점까지 광범위한 취약점 클래스에 대한 강력한 완화책은 마련되지 않은 상태입니다. 이는 기업과 사용자들에게 외부 문서를 신뢰할 수 없는 것으로 간주하고, 코파일럿 사용 전후로 문서를 철저히 검토하는 등 각별한 주의를 요구합니다. 이 취약점은 조직이 의존하는 일상적인 문서 작업 흐름에 영향을 미치므로, 사용자들은 위험을 인지하고 정보에 입각한 결정을 내릴 필요가 있습니다.