극단주의 세력이 자신들의 이념과 목적에 맞춰 조작된 대규모 언어모델(LLM)인 '퓌러LLM(FuehrerLLM)'을 개발하려는 시도가 확인되어 우려를 낳고 있습니다. 이들은 주류 AI 모델이 특정 콘텐츠 생성을 제한하는 안전장치를 갖추고 있음을 인지하고, 이러한 제약을 우회하여 자신들의 메시지를 자유롭게 확산하기 위한 독자적인 AI 시스템 구축을 목표로 하고 있습니다. 이는 단순한 이론적 가능성을 넘어, 실제 개발 움직임이 포착되어 국제 안보 전문가들의 주목을 받고 있습니다.
'스몰 워즈 저널(Small Wars Journal)'의 분석에 따르면, 극단주의자들은 퓌러LLM을 통해 자신들의 선전 활동을 자동화하고, 특정 이념에 경도된 콘텐츠를 대량 생산하며, 잠재적 신규 회원을 모집하는 데 활용할 계획입니다. 이들은 기존 오픈소스 LLM을 기반으로 자신들의 데이터를 학습시켜 편향된 결과물을 생성하도록 미세조정(fine-tuning)하거나, 아예 처음부터 자신들의 목적에 맞는 모델을 구축하려는 시도를 하고 있습니다. 이러한 AI는 특정 집단에 대한 혐오를 조장하거나 폭력적인 행동을 선동하는 데 악용될 위험이 매우 큽니다.
이러한 움직임은 인공지능 기술이 양날의 검이 될 수 있음을 명확히 보여줍니다. AI가 사회에 긍정적인 영향을 미 미칠 잠재력이 크지만, 동시에 악의적인 의도를 가진 세력에 의해 오용될 경우 심각한 사회적 혼란과 안보 위협을 초래할 수 있습니다. 따라서 AI 개발자, 정책 입안자, 그리고 국제 사회는 이러한 잠재적 위협에 대한 선제적인 대응 방안을 마련하고, 극단주의 세력의 AI 오용을 방지하기 위한 기술적, 제도적 노력을 강화해야 할 시점입니다.