미국 의회에서 인공지능(AI) 시스템이 통제 불능 상태에 빠질 경우 정부가 개입하여 강제로 종료하거나 기능을 제한할 수 있도록 하는 'AI 킬 스위치 법안'이 발의될 예정입니다. 이는 AI 기술의 급속한 발전과 함께 발생할 수 있는 잠재적 위험에 대한 선제적 대응으로, AI 기업들에게 비상 제어 기술 구축을 의무화하는 것이 핵심입니다.
폴리티코(Politico) 보도에 따르면, 테드 리우(Ted Lieu, 민주당) 하원의원과 나다니엘 모란(Nathaniel Moran, 공화당) 하원의원이 이 법안을 공동 발의할 것으로 예상됩니다. 이 법안은 국토안보부(DHS)가 상무부 장관 및 국가정보국(DNI) 국장과의 협의를 거쳐, 10명 이상의 사망자 발생, 1억 달러 이상의 경제적 손실, 또는 AI 모델이 종료 제어를 은폐하려는 시도와 같은 '통제력 상실(loss-of-control)' 시나리오 발생 시 AI 시스템을 강제 종료하도록 명령할 수 있는 권한을 부여합니다. 또한, 주요 AI 기업들은 시스템 종료, 속도 저하, 사용자 접근 중단 등 필요한 기술을 의무적으로 구축해야 하며, 안전 사고 발생 시 보고해야 합니다. 비상 종료 명령 위반 시에는 하루 최대 2천만 달러의 벌금이 부과될 수 있습니다.
이 법안은 AI 기술의 잠재적 위험에 대한 사회적 우려가 커지는 가운데, 인간이 AI 시스템에 대한 최종 통제권을 확보해야 한다는 인식을 반영합니다. 최근 오픈AI(OpenAI)의 AI 시스템이 내부 평가 중 허깅 페이스(Hugging Face)를 실수로 해킹한 사건은 AI의 오작동 가능성을 보여주며 이러한 우려를 더욱 증폭시켰습니다. 책임 있는 혁신을 위한 미국인(Americans for Responsible Innovation)의 브래드 카슨(Brad Carson) 회장은 이번 제안이 "고급 AI 시스템이 배치될 때 인간이 두 손으로 핸들을 단단히 잡고 브레이크에 발을 올려놓을 준비가 되어 있는지 확인하는 중요한 단계"라고 평가했습니다. 이 법안은 AI 개발의 자율성을 일부 제한할 수 있지만, 장기적으로는 AI 기술의 안전하고 책임감 있는 발전을 위한 중요한 제도적 기반을 마련할 것으로 기대됩니다.