인공지능(AI) 기술이 전례 없는 속도로 발전하면서 사회 전반에 걸쳐 혁신적인 변화를 가져오고 있지만, 이를 둘러싼 정책과 규제는 매우 느리게 움직이고 있어 심각한 시차 문제가 발생하고 있습니다. 마치 '반지의 제왕'에서 엔트(Treebeard)가 호빗의 위기감을 이해하지 못하고 느리게 행동하는 것처럼, AI의 기하급수적 발전 속도와 정부의 정책 결정 속도 간의 불균형이 커지고 있다는 지적입니다. AI 모델은 불과 4년 만에 단순한 코드 작성에서 주요 AI 기업의 대부분 코드를 작성하는 수준으로 발전했으며, 생물학, 물리학, 금융, 법률 등 다양한 분야에서 유사한 발전이 이루어졌습니다.
앤스로픽(Anthropic)의 공동 창립자 다리오 아모데이(Dario Amodei)는 AI의 스케일링 법칙(scaling laws)이 컴퓨팅 파워 증가에 따라 일반 인지 능력이 기하급수적으로 증가할 것이라고 예측하며, 이러한 추세가 1~2년 더 지속되면 '데이터센터 안의 천재 국가'와 같은 강력한 AI가 등장할 것이라고 경고합니다. 최근 '클로드 미토스 프리뷰(Claude Mythos Preview)'와 같은 최첨단 모델이 사이버 보안에 심각한 위험을 초래할 수 있음이 밝혀지면서, AI가 금융, 핵심 인프라, 국가 안보에까지 영향을 미칠 수 있는 전략적 도구가 되었음이 명확해졌습니다. 앤스로픽은 이러한 상황에 대응하기 위해 AI 규제 및 공공 안전, 거시경제 및 조세 정책, 과학 혁신, 국가와 사회 간의 권력 균형, 지정학 등 5가지 정책 영역을 재구상해야 한다고 강조하며, 특히 최첨단 모델 테스트에 대한 입법 제안과 일자리 대체에 대한 정책 프레임워크를 발표했습니다.
AI의 급진적인 발전은 핵무기나 산업혁명처럼 정책 환경 전체를 근본적으로 재편할 잠재력을 가지고 있습니다. 그러나 정책 입안자들은 AI의 현재 능력에만 초점을 맞춰 안일한 태도를 보여왔고, AI의 급진적 영향이 아직 나타나지 않았고 그 형태를 정확히 알 수 없었기 때문에 적절한 정책을 설계하기 어려웠던 것도 사실입니다. 이제 AI의 놀라운 힘과 위험성에 대한 증거가 명백해진 만큼, 전 세계적으로 느리고 불안정한 정책 시스템을 활성화하여 빠르게 증폭될 위험과 기회에 대응해야 합니다. 이는 단순히 기술 기업의 문제가 아니라, 국가 안보와 사회 전체의 미래를 결정할 중대한 과제이며, 정책 입안자들이 AI의 발전 속도에 맞춰 신속하고 선제적인 조치를 취하는 것이 그 어느 때보다 중요해졌습니다.