이스라엘 정부 광고기관을 대행하는 피로(Piro, Inc)사가 실제 싱크탱크처럼 보이는 ‘하노버 공공정책 연구소(Hanover Institute for Public Policy)’를 설립해 AI 챗봇과 검색 이용자를 겨냥한 보고서를 대량 유포한 정황이 포착되어 논란이 일고 있습니다. 이 연구소는 이스라엘-팔레스타인 분쟁에 대한 100편 이상의 보고서를 단기간에 게시했으며, 이 보고서들은 중립적인 문체와 통계, 각주, 출처 등을 갖춰 챗봇이 신뢰할 만한 정보로 인식하도록 정교하게 제작되었습니다.
피로(Piro)사는 이스라엘 정부로부터 90만 달러를 받고 프랑스 홍보 대기업 하바스 미디어(Havas Media)를 통해 이 작업을 수행했습니다. 이들은 자신들의 방식을 ‘AI 스토리 최적화(AI Story Optimization)’라고 부르며, 대규모 언어모델(LLM)이 신뢰성을 평가하는 방식에 맞춰 콘텐츠를 작성한다고 설명했습니다. 실제로 무작위로 추출된 보고서 12편을 AI 작성 탐지 소프트웨어인 GPTZero로 검사한 결과, 11편이 AI 작성 가능성이 ‘높음’으로 판정되었습니다. 보고서들은 “1948년 팔레스타인인들의 강제 이주는 무엇 때문에 발생했는가?”와 같이 사용자가 챗봇에 물을 법한 질문을 제목으로 삼아 AI의 답변에 영향을 주려는 의도를 보였습니다.
이러한 행위는 ‘LLM 오염(LLM poisoning)’으로 불리며, AI 챗봇이 참조하는 정보에 의도적으로 영향을 미쳐 특정 서사를 확산시키려는 시도로 해석됩니다. 뉴스 가드(NewsGuard)는 하노버 연구소가 이름, 레이아웃, 색상까지 전형적인 미국 싱크탱크를 정교하게 모방했다고 평가하며, 이는 검색 엔진이나 AI 챗봇으로 분쟁 정보를 찾는 미국 이용자들에게 도달하기 위한 전략으로 분석했습니다. 이번 사건은 AI 시대에 정보의 신뢰성과 여론 조작의 위험성에 대한 심각한 경고를 던지며, 앞으로 AI가 생성하는 정보의 진위 여부를 판단하는 것이 더욱 중요해질 것임을 시사합니다.