인공지능(AI) 연구의 대부로 불리는 제프리 힌턴(Geoffrey Hinton) 교수가 AI의 미래에 대해 심각한 우려를 표명했습니다. 그는 AI가 인류에게 '급진적 풍요(radical abundance)'를 가져다줄 잠재력이 있지만, 동시에 위험 관리에 실패하면 사회 붕괴로 이어질 수 있다고 경고했습니다. 특히 10년 이내, 어쩌면 그보다 더 빨리 AI의 위험 관리 성공 여부가 드러날 것이며, 2026년 말이나 2027년에는 AI를 이용한 전력 공급 또는 금융 시스템 마비와 같은 대규모 사고가 발생할 수 있다고 구체적인 시기를 언급했습니다.
힌턴 교수는 현재 주요 AI 기업들이 시장 주도권과 점유율을 놓고 경쟁하며 점점 더 강력한 모델을 출시하는 과정에서 위험을 간과하고 있다고 비판했습니다. 그는 오픈AI(OpenAI)의 샘 올트먼(Sam Altman) 최고경영자(CEO)를 전혀 신뢰하지 않으며, 마크 저커버그(Mark Zuckerberg)와 일론 머스크(Elon Musk) 같은 기업 경영진이 AI의 위험을 이해하면서도 돈을 우선시한다고 지적했습니다. 힌턴 교수는 AI 위험에 대해 자유롭게 발언하기 위해 2023년 구글(Google)을 퇴사했으며, 의약품 심사와 유사하게 AI 모델 출시 전 독립 기관이 이익이 피해보다 크다는 통계적 근거를 심사하는 'FDA식 사전 심사'와 국제 공통 안전 기준 도입을 강력히 지지하고 있습니다.
이러한 힌턴 교수의 경고는 AI 기술이 사회 전반에 미치는 영향이 커지면서 규제와 안전에 대한 논의가 더욱 중요해지고 있음을 시사합니다. AI를 통한 시스템 마비 사고는 단순한 기술적 문제를 넘어 사회적 혼란과 경제적 손실을 야기할 수 있으며, 이는 인류가 AI를 어떻게 통제하고 관리해야 하는지에 대한 근본적인 질문을 던집니다. 힌턴 교수는 여전히 인류가 통제권을 가지고 있으며, 충분한 노력을 기울이면 재앙을 피할 수 있다는 희망을 가지고 있다고 밝혔지만, 그의 발언은 AI 개발의 속도와 방향에 대한 전 세계적인 재고를 촉구하는 강력한 메시지로 해석됩니다.