오픈AI(OpenAI)가 캘리포니아주에 최근 통과된 인공지능(AI) 안전법을 더욱 강력하게 개정할 것을 촉구했습니다. 캘리포니아주 의회를 통과한 이 법안(SB 1047)은 대규모 AI 모델 개발사들이 잠재적 위험을 평가하고 관리하도록 의무화하는 내용을 담고 있습니다. 하지만 오픈AI는 이 법안이 특정 위험 임계값을 넘는 AI 모델에 대해 독립적인 감사와 필요한 경우 개발을 중단할 수 있는 권한을 포함해야 한다고 주장하며, AI 안전 규제의 실효성을 높여야 한다고 강조했습니다.
오픈AI가 언급한 캘리포니아주 법안(SB 1047)은 '킬 스위치(kill switch)' 조항이 없어 AI 모델이 통제 불능 상태가 될 경우 개발사가 이를 중단할 법적 의무가 없다는 비판을 받아왔습니다. 오픈AI는 이러한 허점을 보완하기 위해, 특히 대규모 언어모델(LLM)과 같이 사회 전반에 큰 영향을 미칠 수 있는 AI 시스템의 경우, 외부 전문가가 안전성을 검증하고 문제가 발견될 시 개발을 일시 중단할 수 있는 강력한 조치가 필요하다는 입장입니다. 이는 AI 기술의 잠재적 위험에 대한 업계 내부의 우려와 함께, 선제적인 규제 마련의 필요성을 시사합니다.
이번 오픈AI의 제안은 AI 기술 개발을 주도하는 기업이 스스로 더 강력한 규제를 요구한다는 점에서 주목할 만합니다. 이는 AI의 발전 속도에 발맞춰 사회적 안전망을 구축하려는 노력의 일환으로 해석될 수 있습니다. AI 안전 규제는 기술 혁신을 저해할 수 있다는 우려도 있지만, 동시에 대중의 신뢰를 확보하고 장기적인 성장을 위한 필수적인 기반이 될 수 있습니다. 캘리포니아주의 이번 법안 개정 논의는 향후 전 세계 AI 규제 방향에도 중요한 영향을 미칠 것으로 예상됩니다.