주요 AI 개발 기업인 오픈AI(OpenAI), 구글(Google), 앤트로픽(Anthropic)의 현직 및 전직 연구자들이 초지능(superintelligence) AI가 인류에게 '생각보다 훨씬 위험하다'는 경고를 담은 일련의 인터뷰 영상을 공개했습니다. 이들은 AI의 발전이 인류에게 실존적 위협이 될 수 있음을 강조하며, 업계 내부의 깊은 우려를 드러냈습니다.
팔리세이드 리서치(Palisade Research)라는 비영리 단체가 수집하여 'frominside.ai' 웹사이트에 게시한 이 영상들에는 전 오픈AI 및 구글 딥마인드(Google DeepMind) 직원인 제프리 어빙(Geoffrey Irving)이 “인류 멸종 가능성은 동전 던지기와 같다”고 말하는 충격적인 내용이 담겨 있습니다. 구글 딥마인드 연구 과학자 닐 난다(Neel Nanda) 역시 “인류 멸종을 야기할 확률이 최소 10%이며, 이는 터무니없이 높은 수치”라고 경고했습니다. 심지어 전 오픈AI 연구원 다니엘 코코타일로(Daniel Kokotajlo)는 초지능 AI가 “기본적으로 신과 같은 힘을 가질 것이며, 우리는 그것을 전혀 통제할 방법을 모른다”고 주장하며, “이것은 생각만큼 위험하며 발생해서는 안 된다”고 강조했습니다.
이러한 내부자들의 경고는 AI 안전(AI safety)에 대한 논의가 단순한 과장이 아님을 시사합니다. AI 기술이 빠르게 발전하면서, 그 잠재적 위험에 대한 심도 있는 논의와 구체적인 해결책 마련이 시급하다는 목소리가 커지고 있습니다. 연구자들은 자신들이 위험한 기술을 개발하고 있다는 비판에 대해, “내가 그만둔다고 해서 이 회사들이 시스템 개발을 멈추지 않을 것이기에, 직접 위험을 줄이는 일을 하고 있다”고 해명하며, AI 개발의 윤리적 딜레마를 보여주기도 했습니다. 이 영상들은 AI 개발의 속도와 안전성 확보 사이의 균형점을 찾는 것이 얼마나 어려운 과제인지를 다시 한번 상기시키고 있습니다.