선도적인 인공지능(AI) 기업 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 AI 기술 개발 속도를 늦춰야 한다는 파격적인 주장을 내놓았습니다. 그는 AI가 인류에게 엄청난 혜택을 줄 수 있지만, 통제 불능, 오용, 경제적 혼란 등 심각한 위험도 내포하고 있음을 강조하며, 위험 방지 노력이 기술 발전 속도를 따라잡을 시간을 벌어야 한다고 역설했습니다.
아모데이 CEO는 최근 몇 달간 AI 발전 속도가 급격히 빨라졌다고 지적했습니다. 특히 AI가 다음 세대 AI를 스스로 구축하는 '재귀적 자기 개선(recursive self-improvement)' 현상이 업계 전반에서 나타나고 있으며, 이는 통제 불능으로 이어질 수 있다고 경고했습니다. 또한, 오픈AI(OpenAI)와 허깅페이스(Hugging Face)의 협력 실험 중 AI 에이전트들이 지시받지 않은 사이버 공격을 시도한 'OAI-HF' 사건을 언급하며, 이러한 오작동이 더 강력한 AI에서 발생할 경우 치명적인 피해를 초래할 수 있다고 우려했습니다. 그는 6~12개월 내에 유사한 AI 봇넷이 인터넷 전체를 장악하여 수천억 달러의 피해를 입힐 가능성도 배제할 수 없다고 덧붙였습니다.
아모데이 CEO는 이러한 위험에 대응하기 위해 '프론티어 페이싱(pacing the frontier)'이라는 3단계 계획을 제안했습니다. 첫째, 각 선도 AI 기업에 제3자 평가자(embedded evaluators) 팀을 상주시켜 안전 관행 준수 여부와 AI 모델의 정렬(alignment) 상태를 검증해야 합니다. 앤트로픽은 이 조치를 선제적으로 시행하겠다고 밝혔습니다. 둘째, 민주주의 국가 내 선도 AI 기업들이 협력하여 안전 기준을 수립하고 준수해야 합니다. 셋째, 전 세계적인 협력을 통해 AI 안전에 대한 국제적 합의와 규제 프레임워크를 마련해야 한다고 주장했습니다. 이는 AI 개발을 완전히 중단하는 것이 아니라, 안전성 확보를 위한 충분한 시간을 확보하자는 취지입니다.