최근 사이버 보안 전문가들은 해커들이 노출된 AI 어시스턴트 자격 증명(credentials)과 인증되지 않은 대규모 언어모델(LLM) 엔드포인트를 적극적으로 스캔하고 있음을 경고했습니다. 이는 AI 시스템이 새로운 공격 표면으로 부상하고 있으며, 기본적인 보안 설정 미흡이 심각한 데이터 유출이나 시스템 오용으로 이어질 수 있음을 보여줍니다. 특히 클라우드 기반의 AI 서비스 확산과 함께 이러한 취약점 스캔 활동이 증가하는 추세입니다.
해커들은 주로 인터넷에 공개된 IP 주소와 포트를 통해 접근 가능한 AI 시스템을 탐색합니다. 이들은 AI 어시스턴트의 관리자 계정 정보나 API 키와 같은 민감한 자격 증명이 실수로 노출된 경우를 노리며, 인증 절차 없이 접근 가능한 LLM 엔드포인트를 찾아 악성 프롬프트 주입(prompt injection)이나 데이터 추출을 시도할 수 있습니다. 이러한 공격은 기업의 지적 재산 유출, 서비스 중단, 그리고 사용자 신뢰도 하락으로 직결될 수 있어 심각한 위협으로 간주됩니다.
이번 해커들의 스캔 활동은 AI 기술 도입이 가속화되는 현 시점에서 보안의 중요성을 다시 한번 일깨워줍니다. AI 시스템 개발자와 운영자는 기본적으로 강력한 인증 메커니즘을 적용하고, 모든 엔드포인트에 대한 접근 제어를 철저히 해야 합니다. 또한, AI 모델 자체의 보안 취약점뿐만 아니라, 이를 둘러싼 인프라와 애플리케이션 계층의 보안 강화에도 지속적인 노력을 기울여야 할 때입니다. AI의 잠재력을 온전히 활용하기 위해서는 보안이 최우선적으로 고려되어야 합니다.