최근 다크웹에서 도난당한 인공지능(AI) 계정 판매가 급증하고 있다는 보고가 나왔습니다. 이는 챗GPT(ChatGPT)와 같은 대규모 언어모델(LLM) 기반 서비스의 계정이 해킹되어 불법적으로 거래되는 현상으로, 이른바 'LLM 재킹(LLM jacking)'이라는 새로운 사이버 보안 위협이 확산되고 있음을 시사합니다.
공격자들은 피싱(phishing)이나 악성코드(malware) 등을 이용해 사용자들의 AI 서비스 로그인 정보를 탈취한 뒤, 이를 다크웹에서 판매하고 있습니다. 이렇게 탈취된 계정들은 주로 기업의 민감한 데이터나 개인 정보에 접근하거나, 스팸 발송, 사기, 악성코드 유포 등 다양한 불법 행위에 악용될 수 있습니다. 특히, AI 모델에 학습된 데이터나 사용자가 입력한 프롬프트(prompt)에 포함된 기밀 정보가 유출될 위험도 커지고 있습니다.
이러한 LLM 재킹의 확산은 AI 기술의 발전과 함께 새로운 보안 취약점이 생겨나고 있음을 보여줍니다. 기업과 개인 사용자 모두 AI 서비스 이용 시 강력한 비밀번호 설정, 다단계 인증(MFA) 활성화, 의심스러운 링크 클릭 자제 등 보안 수칙을 철저히 지켜야 합니다. 또한, AI 서비스 제공업체들도 보안 시스템을 강화하고 사용자들에게 잠재적 위험을 적극적으로 알려야 할 필요성이 커지고 있습니다.