선도적인 인공지능(AI) 연구 기업 앤트로픽(Anthropic)의 한 선임 안전 연구원이 AI가 10년 안에 인류를 멸종시킬 확률이 10%를 넘는다고 경고했습니다. 이러한 발언은 동료 연구원이 AI 기업들의 무분별한 '초인적 시스템' 개발 경쟁에 대한 우려로 사임한 직후에 나와, AI 안전에 대한 업계 내부의 심각한 불안감을 드러내고 있습니다.
앤트로픽에서 AI 시스템을 훈련했던 제이콥 콕슨(Jacob Coxon) 연구원은 안전에 대한 회사의 미온적인 태도에 반발해 사임했습니다. 그는 OpenAI에서도 시스템을 훈련한 경험이 있으며, 두 AI 기업이 '자기 개선형 초지능(self-improving superintelligence)'을 향해 무모하게 질주하며 '우리의 삶을 걸고 도박하고 있다'고 비판했습니다. 콕슨은 AI 개발자들이 'AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다'고 주장했습니다. 이에 대해 앤트로픽의 AI 안전팀을 이끄는 에반 후빙거(Evan Hubinger)는 콕슨의 주장에 동의하며, 자기 개선형 AI의 발전 속도가 예상보다 빠르다고 우려했습니다. 그는 개인적으로 AI가 10년 안에 인류를 멸종시킬 확률이 10분의 1 이상이라고 추정하면서도, 앤트로픽이 아직 고급 AI의 안전과 인간 가치 정렬을 보장할 '계획이 없으며, 그럴 궤도에도 명확히 오르지 못했다'고 인정했습니다.
이러한 내부 고발과 경고는 AI 산업 전반에 걸쳐 고도화되는 AI 모델의 위험성과 개발 속도에 대한 우려가 커지고 있음을 보여줍니다. 특히 AI 기업들이 기업공개(IPO)를 준비하고 있는 시점에서, 통제 불가능한 '폭주 에이전트(rogue agent)' 사건들과 최첨단 모델의 모니터링 가능성에 대한 고위험 경고가 잇따르고 있습니다. 이번 사건은 안전 문제로 OpenAI를 떠난 연구원들이 설립한 앤트로픽 내부에서도 비슷한 우려가 제기되고 있다는 점에서, AI 안전 문제가 특정 기업만의 문제가 아닌 업계 전체의 근본적인 과제임을 시사합니다.