최근 한 보고서에 따르면 구글의 AI 개요(AI Overview)와 AI 모드가 청소년 사용자에게 안전하지 않을 수 있다는 지적이 제기되었습니다. AI 개요는 검색 결과 상단에 AI가 요약한 정보를 제공하는 기능이며, AI 모드는 특정 검색에 대해 AI가 생성한 답변을 보여주는 기능입니다. 이 기능들이 때때로 부정확하거나 부적절한 정보를 생성하여 청소년에게 유 유해할 수 있다는 내용입니다.
보고서는 구글의 AI가 생성한 답변에서 환각(hallucination) 현상이 나타나 잘못된 사실을 제공하거나, 유해 콘텐츠 필터링이 제대로 작동하지 않아 연령에 부적절한 내용을 노출하는 사례를 지적했습니다. 예를 들어, 자살, 자해, 섭식 장애와 같은 민감한 주제에 대해 AI가 부정확하거나 위험한 조언을 제공할 가능성이 있다는 것입니다. 이는 AI가 학습한 데이터의 편향성 문제와 더불어, 복잡한 질문에 대한 미묘한 맥락을 이해하지 못하는 현재 AI 기술의 한계를 보여줍니다.
이러한 문제는 AI 기술이 일상생활에 깊숙이 통합되면서 발생하는 윤리적, 사회적 책임에 대한 중요한 논의를 촉발합니다. 특히 청소년과 같이 정보에 대한 비판적 사고 능력이 아직 미숙한 사용자들에게는 AI가 제공하는 정보의 신뢰성과 안전성이 더욱 중요합니다. 기술 기업들은 AI 개발 속도만큼이나 안전성 확보와 유해성 방지 노력에 더 많은 자원과 관심을 기울여야 하며, 사용자들은 AI가 생성한 정보에 대해 항상 비판적인 시각을 유지해야 할 필요가 있습니다.