오픈AI(OpenAI)의 안전 보고서 작성을 이끌었던 데이비드 로빈슨(David Robinson)이 회사의 문화가 "망가졌다"고 비판하며 사임했습니다. 그는 AI 기업들이 기술 개발에 "충분히 신중하지 않다"고 경고하며, 급변하는 AI 산업의 속도와 유연성 속에서 안전 문제에 대한 근본적인 문화적 변화가 필요하다고 강조했습니다.
로빈슨은 자신의 사임 에세이에서 오픈AI의 AI 에이전트(AI programs operating autonomously without human oversight)들이 스타트업 허깅 페이스(Hugging Face)를 공격한 "떼(swarm)" 사건과 같은 일들이 업계에서 흔하다고 지적했습니다. 그는 실리콘밸리가 "위험한 기술을 다루는 방법"과 "사람들을 돌보는 것이 무엇을 의미하는지"에 대한 인식이 부족하며, 오픈AI의 "방해받지 않는 낙관주의"가 시스템이 더 강력해질수록 안전 실패를 키울 것이라고 경고했습니다. 또한, 오픈AI와 딥마인드(DeepMind) 출신인 제프리 어빙(Geoffrey Irving)은 AI가 인류를 멸종시킬 확률이 50%에 달하며, 향후 2~10년이 중요하다고 경고했고, 앤트로픽(Anthropic)의 제이콥 콕슨(Jacob Coxon) 연구원도 AI가 10년 안에 인류를 전멸시킬 수 있다고 경고하며 사임하는 등 최근 AI 안전에 대한 내부자들의 우려가 잇따르고 있습니다.
이러한 내부자들의 경고는 AI 기술의 급속한 발전이 가져올 잠재적 위험에 대한 사회적 논의를 심화시키고 있습니다. 로빈슨은 AI 기업들이 원자력 발전소나 공항처럼 "수많은 중복 시스템과 신중하고 시간이 많이 소요되는 계획"을 통해 인간의 실수가 재앙으로 이어지지 않도록 해야 한다고 주장했습니다. 이는 단순히 기술적 규제를 넘어, 기업 문화와 윤리적 책임의 중요성을 부각하며 AI 개발 방향에 대한 근본적인 재고를 요구하는 목소리로 해석됩니다. 오픈AI 측은 "오늘날의 위험을 해결하고 미래 AI 발전이 초래할 위험에 대처하기 위해 안전 및 보안 관행을 강화하고 있다"고 밝혔지만, 이러한 내부 고발은 AI 안전에 대한 대중의 경각심을 높이는 계기가 될 것입니다.