선도적인 인공지능(AI) 연구 기업 앤트로픽(Anthropic)이 AI 개발에 반대하는 활동가들을 감시하고 잠재적 위협을 예측하는 시스템을 구축하고 있다는 보도가 나와 논란이 일고 있습니다. 이는 채용 공고와 내부 보안 관계자들의 인터뷰를 통해 드러났으며, 앤트로픽이 자사 임원과 물리적 자산을 보호하는 차원을 넘어 '사전 범죄(pre-crime)' 방식으로 잠재적 사건을 예측하고 심지어 경찰에 신고하는 접근 방식을 취하고 있음이 밝혀졌습니다.
보도에 따르면, 앤트로픽은 리스크 탐지 전문 기업 샘데스크(Samdesk)와 계약하여 시위 정보를 미리 파악하고 임원의 이동 경로를 변경하는 데 활용했습니다. 또한, 앤트로픽은 위협적인 행동을 보이는 '관심 인물(person-of-interest)'을 추적하여 경찰에 정기적으로 신고하고 있으며, 실제로 한 사용자가 챗봇 클로드(Claude)에 위협적인 발언을 했다는 이유로 경찰에 신고된 사례도 있습니다. 하지만 앤트로픽은 경찰에 실제 대화 내용을 제공하지 않아 증거 불충분 논란을 빚기도 했습니다. 앤트로픽의 글로벌 안전, 정보 및 보안(GSIS) 팀 채용 공고에는 '지정학적 불안정, 테러, 범죄, 행동주의(activism)' 등 광범위한 글로벌 위협을 조사하고 추적하는 역할이 명시되어 있어, 감시 범위가 더욱 확대될 가능성을 시사합니다.
이러한 앤트로픽의 행보는 그동안 '책임감 있는 AI'를 강조하며 오픈AI(OpenAI)의 대안으로 자리매김하려 했던 노력과 상충됩니다. 과거 국방부(Department of Defense)의 대규모 국내 감시 및 자율 무기 사용 요청을 거부했던 앤트로픽이 이제는 '국가 안보 판매' 직책을 채용하며 군사 계약 재개를 모색하는 등, 국가 안보에 대한 초점과 국내 반대 세력 감시 강화가 맞물려 있다는 분석도 나옵니다. AI 기술이 발전하면서 기업의 보안 및 위협 관리 역량도 중요해지고 있지만, 잠재적 위협을 이유로 시민의 표현의 자유와 사생활을 침해할 수 있다는 우려가 커지고 있으며, 이는 AI 윤리 및 투명성 논의에 새로운 과제를 던지고 있습니다.