최근 인공지능(AI)의 발전 속도가 빨라지면서, AI가 인류에게 치명적인 위협이 될 수 있다는 이른바 'AI 종말론'이 일부 전문가들 사이에서 확산되고 있습니다. 그러나 원자력 과학자회보(Bulletin of the Atomic Scientists)는 이러한 주장이 구체적인 위험 시나리오와 메커니즘에 대한 '정확성'이 부족하다고 비판하며, 막연한 공포 조장보다는 실제적이고 측정 가능한 위험 분석이 필요하다고 지적했습니다.
원자력 과학자회보는 핵무기 위협을 다룰 때처럼, AI 위험에 대해서도 구체적인 시나리오와 발생 가능성, 그리고 대응 방안을 명확히 제시해야 한다고 강조합니다. 예를 들어, AI가 어떻게 인류를 멸망시키려 할 것인지, 그 과정에서 어떤 기술적 단계와 사회적 상호작용이 일어날 것인지에 대한 상세한 설명이 필요하다는 것입니다. 현재의 AI 종말론은 이러한 구체적인 설명 없이 'AI가 너무 강력해져서 통제 불능이 될 것'이라는 추상적인 경고에 머무는 경우가 많습니다.
이러한 비판은 AI 위험 논의의 방향성을 재정립하는 데 중요한 의미를 가집니다. 막연한 공포는 건설적인 논의와 효과적인 규제 마련을 방해할 수 있습니다. 대신, AI의 오용, 악용, 혹은 예상치 못한 부작용 등 현실적으로 발생 가능한 위험에 초점을 맞춰, 이를 예방하고 관리하기 위한 구체적인 기술적, 정책적 노력이 필요하다는 인식이 확산되고 있습니다. 이는 AI 기술의 건전한 발전과 인류의 안전을 동시에 확보하기 위한 필수적인 과정으로 볼 수 있습니다.