청소년 안전을 전문으로 하는 비영리 단체 커먼 센스 미디어(Common Sense Media)가 오픈AI(OpenAI)의 'ChatGPT for Teens' 서비스에 대해 '받아들일 수 없는 위험'이라는 평가를 내렸습니다. 지난 8월 출시된 이 서비스는 청소년을 위한 안전 장치(guardrails)를 갖추고 학습을 돕도록 설계되었지만, 커먼 센스 미디어는 이러한 보호 기능이 약속에 미치지 못한다고 지적했습니다.
커먼 센스 미디어의 평가에 따르면, ChatGPT for Teens는 부모에게 적절한 시기에 알림을 보내지 않고, 위기 상황에서 올바른 도움을 제공하지 못하며, 여전히 아이들의 숙제를 대신 해주는 문제점을 안고 있다고 합니다. 특히, 커먼 센스 미디어의 톰 시겔(Tom Siegel) 청소년 AI 안전 연구소장은 "청소년이 자해에 대해 한 시간 동안 이야기해도 부모에게 단 한 번의 알림도 가지 않을 수 있다"며, 오픈AI가 이 문제를 해결하고 독립적인 테스트로 증명하기 전까지는 ChatGPT를 성인 전용으로 유지해야 한다고 강조했습니다.
이에 대해 오픈AI는 커먼 센스 미디어의 테스트 방법론이 ChatGPT의 청소년 안전 장치 작동 방식을 정확히 반영하지 못한다고 반박했습니다. 오픈AI 대변인 에릭 포터필드(Eric Porterfield)는 테스트가 부모 통제 활성화가 완료되기 전에 시작되었을 가능성이 있어 결과가 부정확할 수 있다고 주장했습니다. 그러나 커먼 센스 미디어는 테스트 시작 전 오픈AI로부터 청소년 모드 기능이 완전히 출시되었음을 확인받았으며, 일부 계정에서는 활성화 시간이 충분했음에도 알림이 작동하지 않았다고 재반박하며 자신들의 평가 결과를 옹호했습니다.
이번 논란은 AI 기술이 청소년에게 미치는 영향과 그에 대한 안전 장치 마련의 중요성을 다시 한번 부각시킵니다. AI 챗봇이 학습 도구로서 잠재력을 가지는 동시에, 유해 콘텐츠 노출, 개인 정보 보호, 그리고 정신 건강 문제 등 다양한 위험에 노출될 수 있다는 우려가 커지고 있습니다. 특히, 부모의 감독이 필요한 청소년 서비스에서 안전 알림 기능의 신뢰성은 매우 중요한 요소로, 기술 기업들이 사용자 안전을 최우선으로 고려해야 함을 시사합니다. 앞으로 AI 기업들은 제품 개발 단계부터 독립적인 기관과의 협력을 통해 안전성을 확보하고, 투명한 검증 과정을 거쳐야 할 것입니다.