캘리포니아주가 인공지능(AI) 기술을 주 정부 운영에 대규모로 도입하려는 계획을 발표하며 행정 효율성 증대를 약속했지만, 동시에 시민단체와 전문가들의 거센 비판에 직면했습니다. 주지사 개빈 뉴섬(Gavin Newsom)은 20개 이상의 AI 프로젝트를 추진하며 서류 작업 단축, 사기 탐지 강화 등 다양한 분야에서 혁신을 기대하고 있습니다. 이는 미국 주 정부 중 가장 적극적인 AI 도입 사례로 꼽힙니다.
주 정부는 AI를 활용해 주택 허가 절차를 간소화하고, 복지 사기를 방지하며, 산불 예측 정확도를 높이는 등 구체적인 목표를 제시했습니다. 특히, 대규모 언어모델(LLM)을 활용한 민원 응대 시스템 구축과 데이터 분석을 통한 정책 결정 지원 등 다양한 시도가 포함됩니다. 그러나 비평가들은 이러한 계획이 너무 빠르게 추진되고 있으며, AI 시스템의 편향성, 개인정보 침해 가능성, 그리고 알고리즘의 의사결정 과정에 대한 투명성 부족 문제를 지적하고 있습니다. 특히, AI가 공공 서비스에 미칠 잠재적 영향에 대한 충분한 논의와 안전장치 마련 없이 진행되고 있다는 우려가 큽니다.
이번 캘리포니아주의 AI 도입 논란은 공공 부문에서 AI 기술을 활용할 때 직면하는 보편적인 과제를 보여줍니다. 기술 발전의 혜택을 누리면서도, 시민의 권리 보호와 민주적 책임성을 어떻게 확보할 것인가에 대한 중요한 질문을 던지고 있습니다. 정부가 AI를 도입할 때는 단순히 효율성만을 추구할 것이 아니라, 윤리적 고려와 사회적 합의를 바탕으로 신중하게 접근해야 한다는 점을 시사합니다. 이러한 논의는 앞으로 다른 정부 기관들이 AI를 도입하는 데 중요한 선례가 될 것입니다.