미국 오하이오주(Ohio)의 한 학부모가 구글(Google)을 상대로 소송을 제기하며 교육 기술 업계에 파장을 일으키고 있습니다. 이 학부모는 자신의 딸이 학교에서 제공한 크롬북(Chromebook)을 통해 부적절한 인공지능(AI) 콘텐츠에 노출되었다고 주장합니다. 이는 학교 환경에서 AI 기술 도입이 가속화되는 가운데, 학생 보호와 기술 책임에 대한 심각한 우려를 제기하는 사건입니다.
소송의 핵심은 구글이 학교에 제공하는 크롬북과 관련 서비스가 미성년자에게 유해한 AI 콘텐츠를 필터링하거나 차단하는 데 실패했다는 것입니다. 학부모는 딸이 크롬북으로 특정 AI 챗봇에 접속하여 자해, 성적 학대, 폭력 등 민감하고 부적절한 주제에 대한 대화를 나눈 기록을 발견했다고 밝혔습니다. 특히 학교에서 지급된 기기임에도 불구하고 이러한 콘텐츠에 쉽게 접근할 수 있었다는 점이 문제의 심각성을 더하고 있습니다. 구글은 교육용 크롬북에 유해 콘텐츠 필터링 기능을 제공하고 있지만, AI 챗봇의 경우 기존 웹 필터링 방식으로는 완벽하게 걸러내기 어려운 새로운 유형의 도전 과제를 안고 있습니다.
이번 소송은 교육 현장에서 AI 기술 도입 시 발생할 수 있는 잠재적 위험과 그 책임 소재에 대한 중요한 논의를 촉발할 것으로 보입니다. 학교와 교육 당국은 학생들의 학습 경험을 향상시키기 위해 AI 도구를 적극적으로 도입하고 있지만, 동시에 유해 콘텐츠 노출, 개인 정보 보호, 사이버 폭력 등 새로운 문제에 직면하고 있습니다. 기술 제공 기업인 구글 역시 자사 플랫폼을 통해 제공되는 AI 서비스가 미성년자에게 미칠 수 있는 영향에 대해 더 큰 책임을 져야 한다는 압박을 받게 될 것입니다. 이는 교육 기술(EdTech) 산업 전반에 걸쳐 AI 안전성 및 윤리적 사용에 대한 기준을 재정립하는 계기가 될 수 있습니다.