인공지능(AI) 안전 연구 분야의 주요 기업인 앤트로픽(Anthropic)의 한 연구원이 AI가 인류를 절멸(killing all humans)시킬 확률이 10%를 넘는다고 경고했습니다. 이 발언은 AI 안전팀 소속의 동료 연구원이 회사를 떠난 직후 나온 것으로, AI의 잠재적 위험에 대한 업계 내부의 심각한 우려를 드러내고 있습니다.
해당 연구원은 CNBC와의 인터뷰에서 이러한 수치를 언급하며, AI 시스템이 통제 불능 상태가 될 경우 인류에게 치명적인 위협이 될 수 있다는 점을 강조했습니다. 앤트로픽은 오픈AI(OpenAI)에서 분사한 AI 안전에 특화된 기업으로, 대규모 언어모델(LLM)인 클로드(Claude) 시리즈를 개발하며 AI 안전성 연구를 선도해왔습니다. 특히, '헌법적 AI(Constitutional AI)'와 같은 접근 방식을 통해 AI가 인간의 가치에 부합하도록 훈련시키는 데 주력하고 있습니다.
이번 발언은 AI 기술이 전례 없는 속도로 발전하면서 그 잠재적 위험에 대한 논의가 더욱 중요해지고 있음을 시사합니다. AI의 능력 향상만큼이나 안전성 확보를 위한 연구와 통제 메커니즘 마련이 시급하다는 목소리가 커지고 있으며, 이는 AI 개발 기업뿐만 아니라 정책 입안자와 사회 전체가 함께 고민해야 할 중대한 과제임을 보여줍니다. AI의 긍정적 활용과 함께 잠재적 위험에 대한 경각심을 늦추지 않는 균형 잡힌 접근이 필요합니다.