최근 사이버 범죄자들이 대규모 언어모델(LLM)에 대한 접근 권한을 탈취하여 기업들이 예측하지 못한 막대한 비용을 지불하게 만드는 새로운 공격 방식이 포착되었습니다. 공격자들은 주로 피싱(phishing) 공격이나 유출된 자격 증명을 이용해 LLM API 키를 확보한 뒤, 이를 무단으로 사용하여 스팸 메시지 생성, 악성코드 개발, 사기성 콘텐츠 제작 등 다양한 불법 활동에 LLM을 악용하고 있습니다. 이로 인해 LLM을 사용하는 기업들은 자신도 모르는 사이에 컴퓨팅 자원 사용량이 급증하여 예상치 못한 비용 폭탄을 맞게 되는 심각한 피해를 입고 있습니다.
이러한 공격은 LLM 서비스 제공업체의 인프라 자체를 해킹하는 것이 아니라, 사용자의 계정이나 API 키를 노린다는 점에서 기존의 사이버 공격과 유사하지만, 그 피해 양상은 다릅니다. 공격자들은 탈취한 API 키를 이용해 LLM의 강력한 생성 능력을 마음껏 활용하며, 이는 곧 LLM 사용 기업의 과금으로 직결됩니다. 예를 들어, 대량의 스팸 이메일을 작성하거나, 피싱 캠페인에 사용될 법한 자연스러운 문구를 생성하고, 심지어는 특정 취약점을 분석하여 악성코드를 만드는 데 LLM을 활용하는 식입니다. 이러한 무단 사용은 기업의 재정적 손실뿐만 아니라, LLM 서비스의 남용으로 인한 평판 저하와 법적 문제로까지 이어질 수 있습니다.
이번 사건은 인공지능(AI) 기술이 발전함에 따라 새로운 형태의 사이버 보안 위협이 등장하고 있음을 분명히 보여줍니다. LLM의 접근 제어와 API 키 관리의 중요성이 더욱 부각되었으며, 기업들은 강력한 인증 시스템 도입, 정기적인 보안 감사, 그리고 이상 사용 패턴 감지 시스템 구축 등을 통해 이러한 위협에 선제적으로 대응해야 합니다. 또한, LLM 서비스 제공업체와 사용자 모두가 보안 의식을 강화하고 협력하여, AI 기술의 긍정적인 활용을 저해하는 사이버 범죄로부터 안전한 환경을 만들어 나가는 것이 중요합니다.