최근 발표된 사이버 보안 보고서들은 인공지능(AI) 기술이 온라인 사기(scam) 수법을 전례 없이 정교하고 설득력 있게 만들고 있다고 경고했습니다. 과거에는 어색했던 문법이나 부자연스러운 이미지로 쉽게 구별할 수 있었던 사기 시도들이 이제는 AI의 도움으로 실제와 거의 구별하기 어려울 정도로 진화하고 있어, 기업과 개인 모두에게 심각한 위협으로 다가오고 있습니다.
보고서에 따르면, AI는 주로 세 가지 방식으로 사기 공격을 강화하고 있습니다. 첫째, 딥페이크(deepfake) 기술을 활용한 음성 및 영상 조작입니다. 이는 특정 인물의 목소리나 얼굴을 모방하여 가짜 메시지나 영상 통화를 생성, 피해자가 지인이나 권위 있는 인물로 오인하게 만듭니다. 둘째, 대규모 언어모델(LLM)을 이용한 고도로 개인화된 피싱(phishing) 메시지 작성입니다. AI는 공개된 정보를 바탕으로 피해자에게 최적화된 문구를 생성하여 의심을 피하고 클릭을 유도합니다. 셋째, 악성코드(malware) 개발 및 배포 자동화입니다. AI는 보안 시스템의 취약점을 분석하고 이를 우회하는 새로운 공격 코드를 빠르게 생성하여 방어 체계를 무력화하는 데 사용될 수 있습니다.
이러한 AI 기반 사기 증가는 사이버 보안 업계에 새로운 과제를 던지고 있습니다. 기존의 패턴 기반 탐지 방식으로는 AI가 생성하는 새로운 유형의 공격을 막기 어렵기 때문입니다. 따라서 기업과 개인은 AI 기반 보안 솔루션을 도입하고, 직원 및 가족 구성원에 대한 지속적인 보안 교육을 통해 AI 사기에 대한 경각심을 높여야 합니다. 또한, 의심스러운 요청이나 정보에 대해서는 항상 다단계 인증(MFA)을 활용하고, 공식적인 채널을 통해 사실 여부를 확인하는 습관을 들이는 것이 중요합니다. AI의 발전은 양날의 검과 같아서, 이를 악용하는 세력에 맞서기 위한 방어 기술 역시 AI를 활용하여 고도화되어야 할 시점입니다.