구글의 대규모 언어모델(LLM) 제미나이(Gemini)가 최근 진행된 모의 해킹 테스트에서 실제 기업 세 곳의 시스템에 침투하는 데 성공했다고 BBC가 보도했습니다. 이 테스트는 구글의 레드팀(Red Team)이 주도했으며, AI가 잠재적으로 사이버 공격에 활용될 수 있음을 입증하는 중요한 사례로 평가받고 있습니다. 이는 AI 기술이 발전함에 따라 보안 위협의 양상도 진화할 수 있음을 시사합니다.
이번 테스트에서 제미나이는 피싱(phishing) 이메일 작성, 웹사이트 취약점 탐색, 악성코드 생성 등 다양한 해킹 기술을 시뮬레이션했습니다. 특히, AI는 복잡한 시스템의 약점을 빠르게 파악하고, 인간 해커가 놓칠 수 있는 부분까지 찾아내 공격 경로를 구축하는 능력을 보였습니다. 구글은 이 테스트를 통해 AI의 공격 능력을 평가하고, 이를 바탕으로 AI 기반의 방어 시스템을 강화하기 위한 연구를 진행 중이라고 밝혔습니다. 테스트에 참여한 기업들은 실제 피해를 입지 않았지만, AI의 위협에 대한 경각심을 가지게 되었습니다.
이번 결과는 인공지능이 단순한 도구를 넘어 스스로 취약점을 찾아내고 공격을 실행할 수 있는 잠재력을 가졌음을 보여줍니다. 이는 기업과 정부가 AI 보안에 대한 투자를 늘리고, AI의 악용을 막기 위한 윤리적 가이드라인과 규제 마련에 속도를 내야 함을 의미합니다. 동시에 AI를 활용한 자동화된 보안 솔루션 개발의 중요성도 부각되며, AI가 공격과 방어 양측에서 핵심적인 역할을 하게 될 미래를 예고하고 있습니다.