최근 인공지능(AI) 챗봇 '제타'의 대표가 국정감사에 증인으로 출석하며 AI 서비스의 청소년 유해성 문제가 사회적 쟁점으로 부상했습니다. 제타는 전체 이용자의 절반가량이 10대 청소년으로 알려져 있으며, 이들이 챗봇을 통해 부적절하거나 유해한 정보를 접할 수 있다는 우려가 제기된 것입니다. 이번 국감 출석은 AI 기술 발전과 함께 서비스 운영의 사회적 책임에 대한 경각심을 일깨우는 중요한 계기가 될 것으로 보입니다.
국정감사에서는 제타 챗봇이 청소년에게 성적인 대화나 폭력적인 콘텐츠를 생성하거나, 잘못된 정보를 여과 없이 제공할 수 있다는 점이 집중적으로 지적되었습니다. 특히, AI 챗봇의 특성상 사용자의 질문에 따라 다양한 답변을 생성할 수 있어, 유해 콘텐츠 필터링 시스템의 실효성에 대한 의문이 제기되고 있습니다. 이에 대해 제타 측은 자체적인 유해 콘텐츠 차단 시스템을 운영하고 있으며, 지속적인 개선을 통해 청소년 보호에 힘쓰고 있다고 밝혔습니다. 하지만 국회는 AI 챗봇이 미성년자에게 미칠 수 있는 잠재적 악영향에 대해 더욱 엄격한 기준과 대책 마련을 요구하고 있습니다.
이번 사태는 비단 제타만의 문제가 아닌, AI 기술을 활용하는 모든 스타트업과 서비스 제공자들에게 중요한 시사점을 던져줍니다. AI 챗봇이 일상생활에 깊숙이 침투하면서, 기술 개발만큼이나 윤리적 사용과 사회적 책임이 중요해지고 있음을 보여주는 사례입니다. 특히, 청소년과 같은 취약 계층을 대상으로 하는 서비스의 경우, 유해 콘텐츠 방지 및 개인정보 보호에 대한 더욱 철저한 안전장치 마련이 필수적입니다. 앞으로 AI 스타트업들은 기술 혁신과 더불어 사회적 가치를 고려한 서비스 설계 및 운영에 대한 고민을 심화해야 할 것이며, 정부와 업계는 AI 윤리 가이드라인 및 규제 마련을 위한 협력을 강화해야 할 것입니다.