미국 AI 외교를 주도했던 전문가가 다가오는 AI 안전 회담들이 인류를 구원하지 못할 것이라고 경고하며, 현재의 접근 방식에 대한 근본적인 비판을 제기했습니다. 그는 AI의 잠재적 위험을 과소평가하고 있으며, 기술 발전의 속도에 비해 안전 조치와 규제 논의가 너무 느리게 진행되고 있다고 지적했습니다.
이 전문가는 AI가 인류에게 미칠 수 있는 실존적 위협에 대해 충분히 심각하게 받아들이지 않고 있다고 강조했습니다. 특히, AI 시스템이 통제 불능 상태가 되거나 악의적인 목적으로 사용될 경우 발생할 수 있는 파괴적인 결과에 대한 인식이 부족하다고 꼬집었습니다. 그는 현재 진행 중인 국제 AI 안전 논의들이 주로 자발적인 약속이나 모호한 원칙에 머물러 있어, 실질적인 구속력을 가진 조치로 이어지지 못하고 있다고 비판했습니다.
이러한 비판은 AI 기술의 급속한 발전과 함께 제기되는 안전 문제에 대한 국제 사회의 대응 방식에 중요한 질문을 던집니다. AI 안전 논의가 단순한 선언적 합의를 넘어, 기술 개발의 투명성을 확보하고, 책임 있는 AI 배포를 위한 구체적인 메커니즘을 마련하는 방향으로 나아가야 함을 시사합니다. 결국, AI가 인류에게 가져올 혜택을 극대화하면서도 잠재적 위험을 최소화하기 위해서는 더욱 강력하고 실질적인 국제적 협력과 규제 프레임워크가 필요하다는 메시지로 해석될 수 있습니다.