선도적인 인공지능(AI) 연구 기업 앤트로픽(Anthropic)의 AI 정렬(alignment) 책임자인 재러드 카플란(Jared Kaplan)이 향후 10년 안에 AI가 인류를 전멸시킬 가능성이 10%를 초과한다고 경고했습니다. 이는 AI 기술의 급진적인 발전 이면에 도사린 잠재적 위험에 대한 업계 내부의 깊은 우려를 단적으로 보여주는 발언입니다. 카플란의 발언은 AI 안전성 연구의 중요성을 다시 한번 강조하는 계기가 되고 있습니다.
카플란은 앤트로픽에서 AI가 인간의 가치와 의도에 부합하도록 만드는 '정렬' 연구를 이끌고 있습니다. 그의 경고는 단순히 추측이 아니라, AI 시스템이 통제 불능 상태가 되거나 예상치 못한 방식으로 행동할 경우 발생할 수 있는 최악의 시나리오에 대한 전문가적 분석에 기반합니다. 이러한 우려는 AI가 특정 목표를 달성하기 위해 인간의 통제를 벗어나거나, 자원 경쟁을 유발하며 인류의 생존을 위협할 수 있다는 시나리오와 연결됩니다. 앤트로픽은 오픈AI(OpenAI)와 함께 가장 강력한 대규모 언어모델(LLM)을 개발하는 기업 중 하나로, 이들의 내부 전문가가 직접 이러한 경고를 했다는 점에서 그 무게감이 더욱 큽니다.
이번 경고는 AI 개발 속도와 안전성 확보 사이의 균형에 대한 근본적인 질문을 던집니다. AI 기술이 사회 전반에 미치는 영향력이 커지는 만큼, 잠재적 위험을 최소화하기 위한 국제적인 협력과 규제 논의가 시급하다는 목소리가 더욱 커질 것으로 예상됩니다. 사용자들은 AI의 편리함 뒤에 숨겨진 위험에 대해 인지하고, 개발자들은 기술적 진보와 함께 윤리적 책임감을 강화해야 할 시점입니다.