뉴욕주가 틱톡(TikTok)이 수천 명의 사용자, 특히 어린이와 청소년에게 실제 작동하지 않는 '유령' 안전 기능을 제공했다는 충격적인 주장을 제기했습니다. 이는 뉴욕주가 틱톡을 상대로 제기한 2024년 소송의 업데이트된 내용으로, 법원 명령에 따라 봉인 해제되었습니다. 틱톡이 사용자들을 대상으로 일종의 '실험'을 진행했으며, 이로 인해 일부 사용자들은 유해 콘텐츠를 피하는 데 도움이 될 수 있는 알고리즘 재설정(Algo Refresh)과 같은 기능에 접근하지 못했다는 것이 핵심 고발 내용입니다.
새로운 고발 내용에 따르면, 틱톡은 일부 사용자들에게 알고리즘 재설정 기능을 활성화한 것처럼 보였지만, 실제로는 피드에 아무런 변화가 없었습니다. 반면, 다른 사용자들은 이 기능의 온전한 버전을 제공받아 피드 변화를 경험했습니다. 뉴욕주는 틱톡이 이와 유사한 다른 테스트들도 진행했으며, 일부 사용자에게는 안전 관련 알고리즘 업데이트를 보류했다고 주장합니다. 틱톡 대변인 너새니얼 브라운(Nathaniel Brown)은 이에 대해 "대부분의 회사처럼 우리는 플랫폼 개선을 위해 새로운 제품과 기능을 정기적으로 테스트한다"고 해명했습니다. 그러나 틱톡의 디지털 웰빙(Digital Well Being) 제품 관리자는 내부적으로 이러한 테스트에 대해 "이 기능은 알고리즘 투명성과 제어에 관한 것인데, 위약(placebo) 그룹은 이와 완전히 상충된다"며 우려를 표명한 것으로 알려졌습니다.
이번 고발은 틱톡이 사용자 안전과 투명성에 대한 약속을 얼마나 진정성 있게 이행하고 있는지에 대한 심각한 의문을 제기합니다. 특히 어린이와 청소년 사용자를 대상으로 한 안전 기능에 대한 기만적인 행위는 플랫폼의 사회적 책임과 윤리적 기준에 대한 논란을 증폭시킬 수 있습니다. 이러한 '유령' 기능 제공은 사용자의 신뢰를 저해하고, 플랫폼이 제공하는 안전 장치에 대한 회의감을 불러일으킬 수 있어, 향후 틱톡의 규제 준수 및 기업 이미지에 상당한 영향을 미칠 것으로 예상됩니다.