캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 최첨단 인공지능(AI) 모델에 대한 '킬 스위치' 의무화를 포함한 강력한 AI 안전 규제 도입을 추진하는 행정명령을 발표했습니다. 이는 연방 의회의 AI 규제 논의가 지지부진한 상황에서 캘리포니아 주가 AI 감독의 선두 주자로 나서겠다는 의지를 표명한 것입니다. 뉴섬 주지사는 AI의 잠재적 위험에 대한 경고가 고조되는 가운데, 주 차원에서 선제적이고 실질적인 조치를 취하겠다고 밝혔습니다.
이번 행정명령은 전문가 그룹을 소집하여 두 달 내에 AI 안전 조치를 강화할 법적 권고안을 마련하도록 지시했습니다. 주요 권고안에는 AI 기업이 독립 검증 그룹을 상주시켜 정기 감사를 받도록 하고, 투명성 보고서와 위험 평가를 독립 감사인의 기준에 따르도록 하는 내용이 포함됩니다. 또한, 효과성이 주기적으로 검증되는 '킬 스위치'를 의무화하고, 오픈AI(OpenAI) 공격과 같은 '통제 불능 사고'를 중대한 안전 사고로 보고하도록 요구할 예정입니다. 이와 함께, AI 안전 평가를 위한 독립 검증 프레임워크와 AI 감사인 주 등록부를 만드는 기존 법률의 이행을 가속화할 방침입니다.
이러한 캘리포니아의 움직임은 AI가 인류에 실존적 위협이 될 수 있다는 경고가 잇따르는 상황에서 나왔습니다. 특히 전 앤트로픽(Anthropic) 연구원 제이콥 콕슨(Jacob Coxon)이 AI가 10년 내에 인류를 전멸시킬 확률이 10% 이상이라고 경고한 이후, 의회 내에서도 관련 논의가 활발했지만, 중간선거를 앞두고 실질적인 법안 통과는 어려울 것이라는 전망이 지배적이었습니다. 뉴섬 주지사는 연방 정부의 미온적인 태도를 비판하며, 캘리포니아의 프레임워크를 연방 차원의 모델로 채택하거나 최소한의 기준으로 삼을 것을 촉구했습니다.
이번 행정명령은 AI 기술의 발전 속도에 비해 규제 환경이 미비하다는 비판 속에서 중요한 이정표가 될 수 있습니다. 캘리포니아는 실리콘밸리의 본고장으로서 AI 산업의 중심지인 만큼, 이곳의 규제 움직임은 전 세계 AI 기업과 정책 입안자들에게 큰 영향을 미칠 것입니다. 특히 '킬 스위치'와 같은 강력한 안전 장치 의무화는 AI 개발의 책임과 투명성을 높이는 데 기여할 것으로 기대됩니다. 이는 AI 기술의 잠재력을 최대한 활용하면서도 인류에게 미칠 수 있는 위험을 최소화하려는 노력의 일환으로 평가됩니다.