최근 미국 샌디에이고 지역에서 청소년들이 정신 건강 문제 해결을 위해 인공지능(AI) 기반 앱을 사용하는 사례가 늘면서, 이에 대한 우려의 목소리가 커지고 있습니다. NBC 7 샌디에이고 보도에 따르면, AI 챗봇이 제공하는 조언의 신뢰성 부족과 개인 정보 보호 문제, 그리고 인간 상담사가 제공하는 공감적 지지의 부재가 주요 위험 요소로 지목됩니다. 특히 정신적으로 취약할 수 있는 청소년들에게 AI의 피상적인 접근 방식이 오히려 해가 될 수 있다는 경고가 나오고 있습니다.
전문가들은 AI 정신 건강 앱이 아직 초기 단계에 있으며, 특히 청소년의 복잡하고 미묘한 감정 상태를 정확히 이해하고 적절한 조언을 제공하는 데 한계가 있다고 지적합니다. 예를 들어, AI는 자살 충동과 같은 심각한 위기 상황을 제대로 인지하지 못하거나, 잘못된 정보를 제공하여 상황을 악화시킬 위험이 있습니다. 또한, 이러한 앱들이 수집하는 민감한 개인 정보가 어떻게 관리되고 활용되는지에 대한 투명성이 부족하여, 데이터 유출이나 오용의 가능성도 배제할 수 없습니다. 인간 상담사는 내담자의 비언어적 신호와 맥락을 파악하여 깊이 있는 공감을 제공하지만, AI는 이러한 섬세한 상호작용이 불가능합니다.
이러한 현상은 디지털 네이티브 세대인 청소년들이 기술에 익숙하고, 정신 건강 서비스에 대한 접근 장벽을 낮추려는 시도에서 비롯된 것으로 보입니다. 하지만 AI 기술이 아직 인간의 복잡한 정신 건강 문제를 다루기에는 역부족이라는 점을 인식해야 합니다. 따라서 청소년들이 AI 정신 건강 앱을 사용할 경우, 반드시 전문가의 지도와 함께 보조적인 수단으로 활용해야 하며, 부모와 교육기관은 AI 기반 서비스의 잠재적 위험성에 대해 충분히 인지하고 교육할 필요가 있습니다. 기술 발전과 함께 윤리적이고 안전한 사용 가이드라인 마련이 시급합니다.