미국 연방총무청(GSA)이 정부 계약자들이 인공지능(AI) 기술을 사용할 때 적용해야 할 새로운 데이터 보안 및 거버넌스 요건을 제안했습니다. 이는 AI 시스템이 정부 업무에 깊이 통합되면서 발생할 수 있는 데이터 유출, 오용, 편향성 등의 위험을 선제적으로 관리하고, AI 기술의 안전하고 책임감 있는 활용을 보장하기 위한 중요한 단계입니다.
이번 제안은 GSA의 연방 조달 규정(FAR)에 추가될 예정으로, AI 시스템 개발, 획득 및 사용 전반에 걸쳐 데이터 보안, 프라이버시, 모델 투명성, 그리고 책임 있는 AI 거버넌스 프레임워크 구축을 의무화합니다. 특히, 계약자들은 AI 학습 데이터의 출처를 명확히 하고, 데이터 편향성(bias)을 식별 및 완화하며, 민감한 정보의 보호를 위한 강력한 사이버 보안 조치를 마련해야 합니다. 또한, AI 시스템의 의사결정 과정을 설명할 수 있는 능력(explainability)과 견고성(robustness)도 중요한 평가 요소가 될 것입니다.
이러한 GSA의 움직임은 미국 정부가 AI 기술 도입에 적극적이면서도, 그에 따른 잠재적 위험을 심각하게 인식하고 있음을 보여줍니다. 이는 단순히 기술 도입을 넘어, AI의 윤리적이고 안전한 사용을 위한 제도적 기반을 마련하려는 광범위한 노력의 일환입니다. 앞으로 정부와 협력하려는 AI 기업들은 기술력과 더불어 엄격한 데이터 보안 및 AI 거버넌스 기준을 충족시키는 것이 필수적인 경쟁력이 될 것이며, 이는 AI 산업 전반에 걸쳐 책임 있는 개발 문화 확산에 기여할 것으로 예상됩니다.