AI 안전을 강조하며 책임감 있는 AI 개발을 표방해 온 앤트로픽(Anthropic)이 AI 개발에 반대하는 활동가들을 감시하고, 잠재적 위협을 사전에 예측하는 시스템을 구축하고 있다는 사실이 드러나 논란이 되고 있습니다. 채용 공고와 보안 책임자 인터뷰를 통해 밝혀진 이 시스템은 임원진의 안전과 회사 시설 보호를 명분으로 하지만, '사전 범죄(pre-crime)' 접근 방식이라는 비판을 받고 있습니다.
앤트로픽은 위험 탐지 전문 업체 샘데스크(Samdesk)와 협력하여 시위 정보를 수집하고, 관심 인물(person-of-interest)을 추적하는 절차를 운영 중입니다. 실제로 샘데스크의 사전 통보 덕분에 임원의 시위 현장 노출을 피한 사례도 있습니다. 또한, 자사 대규모 언어모델(LLM) 클로드(Claude)에 CEO에 대한 위협성 발언을 한 사용자를 경찰에 신고하기도 했습니다. 하지만 앤트로픽은 내부 정책을 이유로 실제 메시지 내용은 경찰에 제공하지 않아, 적법 절차 없이 예방적 치안 대응을 조장한다는 비판을 받고 있습니다. 최근 채용 공고에는 활동가 활동을 테러, 범죄 등과 함께 추적 대상으로 명시하며, 연봉 18만~23만 달러의 정보 전문 인력을 채용하고 있습니다.
이러한 앤트로픽의 행보는 과거 자사 도구의 대규모 국내 감시 및 자율무기 사용을 거부하며 미국 국방부와 갈등을 빚었던 모습과는 대조적입니다. 일각에서는 AI를 핵심 기반시설로 지정하려는 움직임과 맞물려, 기업들이 연방 정보 접근 권한을 확대하고 시민들의 반대 활동까지 안보 위협으로 취급될 수 있다는 우려를 제기합니다. AI 기업들이 안전과 정렬(alignment)을 강조하면서도, 실제로는 권위주의적 감시 체계를 구축하는 데 AI 기술을 활용할 수 있다는 비판적 시각이 커지고 있습니다. 이는 AI 기술의 발전이 가져올 사회적 영향과 윤리적 문제에 대한 깊은 논의가 필요함을 시사합니다.