미국 플로리다에서 한 여성이 앤스로픽(Anthropic)의 AI 챗봇 클로드(Claude)를 일기장처럼 사용하다가 경찰에 체포되는 충격적인 사건이 발생했습니다. 이 여성은 클로드에 보안관 사무실을 총격하겠다는 계획을 작성했고, 앤스로픽의 안전 시스템이 이를 탐지해 법 집행기관에 신고하면서 체포로 이어졌습니다. 이는 AI 챗봇에 입력된 내용이 단순한 개인 기록을 넘어 실제 법적 문제로 비화될 수 있음을 보여주는 중요한 사례입니다.
체포 보고서에 따르면, 플로리다에 거주하는 칼리 미셸 헬러(Carli Michelle Heller)는 지난 9월 26일 클로드에 보안관 사무실을 공격하겠다는 내용을 작성했으며, 다음 날 새 총을 구했다고도 입력했습니다. 클로드의 안전 시스템은 이 내용을 탐지한 후 사람 검토팀에 전달했고, 검토팀은 이를 실제 위협으로 판단하여 법 집행기관에 신고했습니다. 앤스로픽은 사망이나 심각한 신체적 상해를 예방하는 데 필요하다고 판단하는 제한적인 긴급 상황에서 사용자 정보를 법 집행기관에 공개할 수 있다고 명시하고 있습니다. 헬러는 플로리다 법에 따라 ‘서면 폭력 위협’ 혐의를 받고 있으며, 이는 2급 중범죄에 해당합니다. 해당 법률은 타인의 살해나 상해, 대규모 총격, 테러를 위협하는 서면 또는 전자 기록의 발송, 게시, 전송을 금지합니다.
이번 사건은 AI 챗봇 사용의 사생활 한계와 AI 기업의 사회적 책임에 대한 중요한 질문을 던집니다. 과거에는 구글 문서(Google Docs)와 같은 서비스에 개인적인 생각을 기록해도 대규모 감시의 대상이 되기 어려웠지만, 이제는 AI 기술을 통해 모든 텍스트에서 위험 신호를 자동 탐지할 수 있는 시대가 도래했습니다. 이는 사용자들이 챗봇에 입력하는 내용이 단순한 대화가 아닌, 잠재적으로 감시되고 분석될 수 있는 데이터라는 인식을 가져야 함을 시사합니다. 한편, AI 기업 입장에서는 잠재적 위협을 인지하고도 신고하지 않아 발생할 수 있는 사회적 비난과 법적 소송 위험을 고려할 때, 이번 앤스로픽의 조치는 불가피한 선택이었을 수 있습니다. 실제로 지난달 캐나다 브리티시컬럼비아주는 오픈AI(OpenAI)가 총격 사건을 예방할 수 있었음에도 신고하지 않았다며 소송을 제기한 바 있습니다.
결론적으로, AI 챗봇은 편리한 도구이지만, 그 안에 담는 정보의 성격과 파급력에 대한 사용자의 깊은 이해와 주의가 필요합니다. AI 대화의 사생활을 보호하는 법적 장치가 아직 미비한 상황에서, 사용자들은 챗봇과의 대화가 완전히 사적이지 않으며, 경우에 따라서는 법적 결과로 이어질 수 있음을 인지해야 합니다. 동시에 AI 기업들은 사용자 프라이버시 보호와 사회 안전 유지라는 두 가지 가치 사이에서 균형을 찾아야 하는 복잡한 과제에 직면해 있습니다.