최근 구글 딥마인드(Google DeepMind)와 오픈AI(OpenAI) 등 주요 인공지능(AI) 기업의 전현직 연구자들이 AI가 인류를 멸종시킬 수 있다는 경고를 담은 공개 서한을 발표했습니다. 이들은 AI 개발 경쟁이 가속화되면서 안전성보다 속도에만 집중하는 현 상황에 깊은 우려를 표하며, AI의 잠재적 위험을 심각하게 받아들여야 한다고 주장합니다.
이 서한에는 13명의 현직자와 8명의 전직 연구원이 참여했으며, 이들은 AI 시스템이 인간의 통제를 벗어나 인류에게 치명적인 위협을 가할 수 있는 시나리오를 제시했습니다. 특히, AI가 자체적으로 진화하며 인간의 의도를 벗어나거나, 잘못된 판단으로 대규모 혼란을 야기할 가능성을 지적했습니다. 이들은 기업들이 이윤 추구와 경쟁 우위 확보에 몰두하며 AI 안전 연구를 소홀히 하고 있다고 비판하며, 내부 고발자 보호와 독립적인 감독 기구의 필요성을 강조했습니다.
이러한 경고는 단순히 기술 발전의 부작용을 넘어, 인류의 미래와 직결된 근본적인 질문을 던집니다. AI 기술이 가져올 막대한 잠재력만큼이나, 통제 불능의 위험에 대한 사회적 합의와 규제 마련이 시급하다는 의미입니다. 기술 개발 속도에 맞춰 안전 장치를 마련하고, 윤리적 기준을 세우는 것이 AI 시대의 지속 가능한 발전을 위한 핵심 과제가 될 것입니다.