인공지능(AI) 기술 발전 속도가 가속화되면서, 통제 불가능한 초지능(ASI)의 등장이 인류에게 실존적 위협이 될 수 있다는 우려가 커지고 있습니다. 이러한 위협을 피하기 위해 국제적인 합의를 통해 AI 개발 속도를 조절하고 안전하게 관리하자는 정책 시나리오인 '플랜 A'가 제시되었습니다. 이 계획은 AI 연구의 완전한 투명성을 확보하고, 여러 국가와 기업이 함께 초지능 개발에 참여하며, 2040년까지 초지능 전환을 늦추는 것을 목표로 합니다.
'플랜 A'는 2029년 미국과 중국이 AI 경쟁을 피하기 위한 합의를 시작하고, 2030년으로 예상되는 AI R&D 완전 자동화를 막는다는 구체적인 시간표를 제시합니다. 이후 2035년까지는 최고 인간 전문가 수준의 AI 개발에서 멈추고, 2040년에 초지능으로 확장하는 단계를 거칩니다. 이를 위해 AI 연구개발(R&D)의 완전한 투명성을 도입하여 각국이 진행 상황을 파악하고 안전장치를 집행할 수 있도록 하며, 비밀 경쟁 대신 여러 국가의 수십 개 기업이 천천히 안전하게 함께 확장하도록 설계되었습니다. 또한, 상호확증 컴퓨트 파괴(mutually assured compute destruction) 체제를 도입하여 특정 국가나 기업이 독점적으로 초지능을 개발하는 것을 억제합니다.
이 시나리오는 단순히 미래 예측이 아닌, 정책 권고를 전달하고 압박 테스트하기 위한 목적으로 만들어졌습니다. AI 기업들이 향후 1~10년 안에 인간보다 똑똑한 AI를 개발할 가능성이 높다고 보면서도, 현재 업계에는 초지능 AI 통제에 대한 구체적인 계획이 부족하다는 문제의식에서 출발합니다. 경쟁의 승자가 실존적 위험을 줄이기 위해 일방적으로 감속할 것으로 기대하기 어렵고, 경쟁이 계속되면 인간이 AI를 효과적으로 통제하기 어려울 것이라는 판단입니다. '플랜 A'는 AI가 인간의 의도에 맞게 정렬되더라도 발생할 수 있는 전례 없는 권력 집중 문제를 해결하고, 인류 멸종이나 세계 독재 가능성을 막기 위한 대안적 경로를 제안하며, 이를 위해 시나리오 검증을 통한 정책의 실현 가능성과 부작용 분석의 중요성을 강조합니다. 현재 남은 시간이 불확실하므로, 이러한 조치들을 조속히 도입해야 한다고 제안합니다.