틱톡(TikTok)이 미국 사용자 1,500만 명을 대상으로 유해 콘텐츠 노출을 막는 알고리즘 안전장치를 의도적으로 해제하는 실험을 진행하여 미 상원의원들의 강력한 질타를 받고 있습니다. 마샤 블랙번(Marsha Blackburn) 상원의원과 리처드 블루멘탈(Richard Blumenthal) 상원의원은 틱톡 CEO 쇼우 츄(Shou Chew)와 미국 사업부 CEO 아담 프레서(Adam Presser)에게 서한을 보내 이번 실험을 ‘타락한(depraved)’ 결정이라고 비난했습니다.
블룸버그(Bloomberg) 보도에 따르면, 틱톡은 미국 사용자 10%에게서 알고리즘 안전장치를 비활성화하여 대조군으로 삼는 실험을 진행했습니다. 이 안전장치는 사용자가 유해 콘텐츠에 압도당하는 것을 막기 위해 설계되었으나, 틱톡은 이 기능이 앱의 참여도를 떨어뜨리는지 확인하고자 했습니다. 그러나 이 대조군에 속했던 16세 체이스 나스카(Chase Nasca)는 슬픔, 자살, 외로움에 관한 수천 개의 동영상을 알고리즘을 통해 접하다 결국 자살로 생을 마감했습니다. 상원의원들은 틱톡에 실험을 인지했던 모든 직원의 이름과 미성년자가 대조군에 포함된 이유 등 13가지 질문에 대한 답변을 9월 1일까지 요구했습니다.
이번 사건은 소셜 미디어 플랫폼의 윤리적 책임과 사용자 안전, 특히 미성년자 보호에 대한 중대한 질문을 던지고 있습니다. 사용자 참여도 증대를 위해 안전장치를 해제하는 실험은 기업의 이윤 추구가 사회적 책임을 넘어설 때 발생할 수 있는 심각한 결과를 보여줍니다. 이는 플랫폼이 사용자 데이터를 활용한 실험을 진행할 때 투명성과 윤리적 가이드라인을 얼마나 철저히 준수해야 하는지에 대한 경각심을 일깨우며, 향후 소셜 미디어 기업들의 알고리즘 운영 방식과 규제 논의에 큰 영향을 미칠 것으로 예상됩니다.