인공지능(AI) 기술이 산업 전반에 확산되면서, AI 시스템의 오작동이나 윤리적 문제 발생 시 법적 책임 소재를 가리는 것이 중요해지고 있습니다. AI 서비스는 보통 여러 공급업체의 기술 스택(기술 구성 요소)을 거쳐 최종 사용자에게 도달하기 때문에, 문제가 생겼을 때 누가 책임을 져야 하는지 명확하지 않은 경우가 많습니다. 이러한 복잡한 공급망 구조는 '책임 폭포(liability waterfall)'라는 개념으로 설명되며, 각 단계별 책임 분담에 대한 논의가 활발합니다.
AI 공급망은 크게 세 가지 계층으로 나눌 수 있습니다. 첫째, AI 모델 자체를 개발하고 학습시키는 모델 개발사(예: OpenAI, Google DeepMind)입니다. 둘째, 이 모델을 구동하는 데 필요한 컴퓨팅 자원과 인프라를 제공하는 클라우드 서비스 제공사(예: AWS, Microsoft Azure)입니다. 셋째, 이 모든 것을 통합하여 최종 사용자에게 서비스를 제공하는 애플리케이션 개발사 또는 서비스 제공사입니다. 예를 들어, 챗봇 서비스에서 오답이 발생했을 때, 모델 자체의 문제인지, 클라우드 인프라의 오류인지, 아니면 서비스 통합 과정의 문제인지 판단하기 어렵습니다. 현재는 각 계약 조항에 따라 책임이 분담되지만, AI의 특성상 예측 불가능한 문제가 많아 기존의 계약 방식만으로는 한계가 있습니다.
이러한 책임 소재의 불분명함은 AI 기술 도입을 주저하게 만드는 요인이 될 수 있으며, 궁극적으로 AI 산업의 성장을 저해할 수 있습니다. 명확한 책임 분담 가이드라인이 마련된다면, AI 서비스 제공자들은 더 안심하고 혁신적인 서비스를 개발할 수 있고, 사용자들은 AI 시스템을 더 신뢰할 수 있게 될 것입니다. 이는 AI 기술의 윤리적 사용과 안전한 발전을 위한 필수적인 전제 조건입니다. 앞으로는 AI 공급망 전반에 걸쳐 투명하고 공정한 책임 분담 프레임워크를 구축하는 것이 중요한 과제가 될 것입니다.