캘리포니아주가 주민들의 삶에 중대한 영향을 미칠 수 있는 고위험 인공지능(AI) 시스템을 사용하고 있음을 공식적으로 인정했습니다. 특히 작년에 주 정부가 공개하지 않았던 AI 시스템들도 포함되어 있어, AI 기술 도입의 투명성과 책임성에 대한 우려가 커지고 있습니다. 이는 AI 기술이 공공 서비스에 깊숙이 침투하면서 발생하는 윤리적, 사회적 문제에 대한 경각심을 일깨우는 사례로 주목받고 있습니다.
이번 발표에 따르면, 캘리포니아주는 주택, 복지, 고용 등 다양한 분야에서 AI를 활용하고 있으며, 이 중 일부는 개인의 권리나 기회에 영향을 미칠 수 있는 고위험 시스템으로 분류됩니다. 문제는 주 정부가 작년에 AI 시스템 사용 현황을 보고하면서 일부 시스템을 누락했다는 점입니다. 이러한 정보 누락은 AI 시스템이 어떻게 작동하고 어떤 결정을 내리는지에 대한 대중의 알 권리를 침해하며, 잠재적인 편향이나 오류가 발생했을 때 이를 감시하고 수정하기 어렵게 만듭니다.
이번 캘리포니아주의 고백은 공공 부문 AI 도입에 있어 투명성과 책임감 있는 거버넌스가 얼마나 중요한지를 다시 한번 강조합니다. AI는 효율성을 높일 수 있지만, 동시에 차별이나 오류로 인해 시민들에게 불이익을 줄 수도 있습니다. 따라서 AI 시스템의 개발, 배포, 운영 전 과정에 걸쳐 명확한 가이드라인과 보고 체계를 마련하고, 독립적인 감시와 평가를 통해 잠재적 위험을 최소화하려는 노력이 필수적입니다. 이는 비단 캘리포니아주뿐만 아니라 AI를 공공 서비스에 도입하려는 모든 정부와 기관이 직면한 과제입니다.