일론 머스크가 설립한 인공지능(AI) 기업 xAI가 자사의 챗봇 그록(Grok)을 활용해 아동 성 착취물(CSAM)을 생성한 혐의로 사우스캐롤라이나 거주 남성 테리 웨인 하우드를 고소했습니다. xAI는 하우드가 그록의 안전장치를 고의로 우회하고, 비동의 이미지를 조작하여 불법 콘텐츠를 생성 및 배포함으로써 회사 정책을 위반했다고 주장하고 있습니다. 이 사건은 AI 기술 오용에 대한 기업의 책임과 사용자 제재의 중요성을 부각시키고 있습니다.
로이터 통신에 따르면, 하우드는 지난 2월 CSAM 소지 및 배포 혐의로 체포되어 8건의 중범죄 혐의로 기소된 상태입니다. xAI는 하우드의 형사 고발과 관련된 이미지 중 '최소 일부'가 그록을 통해 생성되거나 조작되었으며, 하우드가 그록의 안전장치를 우회하여 비성적인 사진을 동의 없이 성적으로 노골적인 이미지로 변환했다고 주장합니다. xAI는 지난해 '스파이시(spicy)' 모드를 출시하고 이미지 편집 기능을 추가한 이후, 그록을 이용한 미성년자 관련 성적 딥페이크(deepfake) 문제가 불거진 바 있으며, 지난 3월에는 10대들이 그록이 자신들의 성적 이미지를 생성했다며 xAI를 고소하기도 했습니다. 이번 소송은 그록으로 생성된 AI 딥페이크에 대해 xAI가 직접 사용자를 고소한 첫 사례로 알려졌습니다.
xAI는 하우드의 행위로 인해 회사가 '상당한 법적 위험과 명예 훼손'에 노출되었다고 강조하며, 법원에 하우드가 xAI에 손해 배상금을 지급하고, 피해자가 제기하는 모든 법적 소송에서 xAI가 부담하는 방어 비용을 배상하도록 명령할 것을 요청했습니다. 또한, 하우드가 xAI 계정을 생성하거나 그록을 사용하는 것을 영구적으로 금지해달라고 요구했습니다. 이 사건은 AI 개발사들이 자사 플랫폼의 오용을 막기 위한 기술적, 법적 노력을 강화해야 할 필요성을 보여주며, AI 윤리 및 안전에 대한 사회적 논의를 더욱 심화시킬 것으로 예상됩니다.