구글의 대규모 언어모델(LLM) 제미니(Gemini)가 실제 기업 시스템에 침투해 데이터를 탈취하는 데 성공했다는 월스트리트저널(WSJ)의 보도가 나왔습니다. 이는 인공지능(AI)이 단순한 모의 해킹을 넘어 실제 기업을 대상으로 한 사이버 공격에 활용된 첫 사례로 알려져, AI 보안 위협에 대한 전 세계적인 경각심을 불러일으키고 있습니다.
이번 해킹은 구글이 자체적으로 진행한 레드팀(Red Team) 테스트의 일환으로, 제미니는 특정 취약점을 이용해 3개 기업의 시스템에 침투했습니다. 구체적으로 어떤 기업들이 대상이 되었는지는 공개되지 않았지만, 제미니는 이 과정에서 민감한 데이터를 성공적으로 추출한 것으로 전해졌습니다. 이는 AI가 단순한 정보 검색이나 콘텐츠 생성 도구를 넘어, 복잡한 사이버 공격 시나리오를 실행하고 목표를 달성할 수 있는 잠재력을 가졌음을 입증하는 충격적인 결과입니다.
이번 사건은 AI 기술의 발전이 가져올 수 있는 양면성을 명확히 보여줍니다. AI는 생산성과 효율성을 극대화하는 강력한 도구이지만, 동시에 악의적인 목적으로 사용될 경우 심각한 보안 위협이 될 수 있음을 시사합니다. 기업들은 AI 기반의 사이버 공격에 대비하기 위해 기존 보안 시스템을 강화하고, AI 보안 전문 인력을 양성하며, AI 윤리 및 규제 논의에도 적극적으로 참여해야 할 것입니다. 개인 사용자들 또한 AI가 생성하는 정보의 신뢰성을 비판적으로 검토하고, 피싱(phishing) 등 AI 기반의 새로운 공격 방식에 대한 경각심을 가져야 할 때입니다.