미국 국립표준기술연구소(NIST)가 인공지능(AI) 시스템의 사이버보안 위험을 관리하기 위한 새로운 프레임워크를 공개했습니다. 이 문서는 'AI 시스템의 사이버보안 위험 관리를 위한 NIST 가이드'라는 이름으로, AI 모델의 설계, 개발, 배포 및 운영 전반에 걸쳐 발생할 수 있는 잠재적 취약점을 식별하고 완화하기 위한 포괄적인 지침을 제공합니다. 이는 AI 기술이 다양한 산업과 일상생활에 깊숙이 침투하면서 발생하는 새로운 보안 위협에 대한 선제적 대응의 일환입니다.
NIST의 이 가이드는 기존의 사이버보안 프레임워크(CSF)와 AI 위험 관리 프레임워크(AI RMF)의 원칙을 통합하여 AI 특유의 보안 문제를 다룹니다. 예를 들어, AI 모델에 대한 적대적 공격(adversarial attacks), 데이터 오염(data poisoning), 모델 탈취(model extraction) 등 전통적인 IT 시스템에서는 찾아보기 어려운 위협들을 구체적으로 명시하고, 이에 대한 방어 전략을 제시합니다. 또한, 공급망 보안, 데이터 프라이버시, 모델 투명성 등 AI 시스템의 생명주기 전반에 걸쳐 고려해야 할 다양한 측면을 강조하며, 조직이 AI 보안 태세를 강화할 수 있도록 실질적인 로드맵을 제공합니다.
이번 NIST의 발표는 AI 기술의 신뢰성과 안전성을 확보하는 데 중요한 이정표가 될 것입니다. 기업과 정부 기관은 이 프레임워크를 활용하여 AI 시스템 도입 시 발생할 수 있는 보안 위험을 체계적으로 평가하고 관리할 수 있게 됩니다. 이는 궁극적으로 AI 기술의 광범위한 채택을 촉진하고, 사용자들이 AI 기반 서비스에 대한 신뢰를 높이는 데 기여할 것입니다. 또한, 국제적으로 AI 보안 표준을 정립하는 데 중요한 참고 자료가 되어, 전 세계적인 AI 거버넌스 논의에도 영향을 미칠 것으로 예상됩니다.