미국 연방총무청(GSA)이 인공지능(AI) 기술 및 서비스 조달 계약에 적용될 새로운 계약 조항 초안을 발표하고, 이에 대한 공개 의견 수렴을 시작했습니다. 이는 연방 정부가 AI 기술을 도입하는 과정에서 발생할 수 있는 잠재적 위험을 관리하고, 책임감 있는 AI 사용을 보장하기 위한 중요한 첫걸음입니다.
이번에 제안된 조항은 크게 세 가지 핵심 영역에 초점을 맞춥니다. 첫째, AI 시스템의 책임감 있는 사용을 강조하며, 공급업체가 AI 시스템의 편향성(bias)을 식별하고 완화하기 위한 조치를 취하도록 요구합니다. 둘째, 데이터 보호 및 개인정보(privacy) 침해 방지에 대한 강력한 지침을 포함하여, 민감한 정보가 AI 훈련이나 운영에 사용될 때의 안전장치를 마련합니다. 셋째, AI 시스템의 투명성(transparency)과 설명 가능성(explainability)을 높여, 정부가 AI 결정 과정을 이해하고 검증할 수 있도록 합니다. 이는 AI 시스템이 블랙박스처럼 작동하는 것을 방지하고, 공공 서비스에서의 신뢰를 확보하려는 의도입니다.
이러한 GSA의 움직임은 미국 정부가 AI 기술을 적극적으로 도입하면서도, 그에 따른 윤리적, 법적, 사회적 문제들을 선제적으로 해결하려는 의지를 보여줍니다. 이 계약 조항이 최종 확정되면, 정부에 AI 관련 제품이나 서비스를 공급하려는 모든 기업은 이 기준을 충족해야 합니다. 이는 AI 개발 및 공급 기업들에게 새로운 도전이자 기회가 될 것이며, 책임감 있는 AI 개발 관행을 업계 전반에 확산시키는 데 중요한 역할을 할 것으로 예상됩니다. 또한, 정부 조달 시장에서 AI 기술의 신뢰성과 안전성에 대한 새로운 표준을 제시하게 될 것입니다.