뉴욕주가 소셜 미디어 플랫폼 틱톡(TikTok)을 상대로 충격적인 소송을 제기했습니다. 틱톡이 청소년과 어린이 사용자들을 대상으로 실제로는 작동하지 않는 '가짜 안전 기능(placebo safety feature)'을 제공하는 실험을 진행했다는 주장입니다. 이 소송은 틱톡이 플랫폼을 아동의 중독적인 사용을 유도하도록 설계하고 안전 기능에 대해 사용자를 오도했다는 여러 주(州)의 고발 중 하나로, 사회적 파장이 예상됩니다.
소송 내용에 따르면, 틱톡은 수천 명의 사용자를 대상으로 '알고리즘 새로고침(Algo Refresh)'과 같은 안전 기능 실험을 진행했습니다. 이 기능은 사용자가 추천 피드를 초기화하여 원치 않거나 유해할 수 있는 콘텐츠를 보지 않도록 설계된 도구입니다. 그러나 실험에 참여한 청소년과 어린이 사용자들은 이 기능을 활성화했음에도 불구하고 피드에 아무런 변화가 없었으며, 이는 실험 대상이 아닌 사용자들에게는 정상적으로 작동하는 기능이었다고 뉴욕주는 밝혔습니다. 틱톡 측은 이에 대해 "대부분의 회사처럼 제품 및 기능 개선을 위해 정기적으로 테스트를 진행한다"고 해명했습니다. 그러나 뉴욕주는 틱톡이 1,500만 명의 미국 사용자에게 안전 기능을 제공하지 않은 또 다른 실험을 진행했으며, 이 중 한 십대 사용자가 결국 자살에 이르렀다는 블룸버그(Bloomberg)의 6월 보도 내용도 함께 언급하며 틱톡의 책임을 강조했습니다.
이번 소송은 소셜 미디어 기업의 아동 및 청소년 보호 의무에 대한 경각심을 다시 한번 일깨우는 중요한 사례입니다. 기업이 사용자 데이터를 활용한 실험을 진행하는 것은 일반적이지만, 특히 취약 계층인 미성년자를 대상으로 안전 기능의 효용성을 속이는 방식으로 진행되었다면 이는 윤리적, 법적 문제를 넘어 사회적 신뢰를 심각하게 훼손하는 행위입니다. 사용자들은 자신이 사용하는 서비스의 안전 기능이 실제로 작동할 것이라는 기본적인 신뢰를 가지고 있으며, 이러한 신뢰가 깨질 경우 플랫폼 전반에 대한 불신으로 이어질 수 있습니다. 이번 소송 결과는 향후 소셜 미디어 기업들의 사용자 보호 정책 및 실험 윤리에 중대한 영향을 미칠 것으로 보입니다.