최근 수백만 명의 사용자들이 AI 기반 심리 상담 앱을 통해 정신 건강 지원을 받고 있습니다. 대표적으로 ‘왬(Wysa)’과 같은 AI 챗봇은 사용자의 기분 변화를 추적하고 인지 행동 치료(CBT) 기법을 활용한 대화를 제공하며, 심지어는 실제 치료사와의 연결까지 돕습니다. 이러한 AI 상담 서비스는 접근성을 높이고 비용 부담을 줄여준다는 장점 덕분에 빠르게 확산하고 있습니다.
하지만 캘리포니아주 의원들은 이러한 AI 심리 상담의 급성장에 제동을 걸고 나섰습니다. 이들은 AI가 제공하는 조언의 정확성, 사용자 데이터의 개인 정보 보호 문제, 그리고 AI가 위기 상황에서 적절한 개입을 할 수 있는지에 대한 우려를 표명했습니다. 특히, 심각한 정신 건강 문제를 겪는 사용자에게 AI 상담이 오진이나 부적절한 조언을 제공할 경우 발생할 수 있는 위험에 주목하며, AI 상담 서비스에 대한 엄격한 규제와 감독의 필요성을 강조하고 있습니다.
이러한 규제 움직임은 AI 헬스케어 분야 전반에 걸쳐 중요한 시사점을 던집니다. AI 기술이 의료 서비스의 효율성과 접근성을 혁신할 잠재력을 가지고 있지만, 동시에 환자의 안전과 복지를 최우선으로 고려해야 한다는 원칙을 재확인시켜 줍니다. 앞으로 AI 심리 상담 서비스는 기술 발전과 더불어 윤리적 가이드라인, 법적 책임, 그리고 임상적 효과 검증이라는 복잡한 과제를 해결해야 할 것입니다. 이는 AI가 인간의 삶에 더 깊이 통합되기 위해 반드시 거쳐야 할 과정으로 보입니다.