TikTok меняет свой алгоритм, чтобы избежать потоков негативного контента, предположительно в попытке противостоять критике по поводу пагубного воздействия социальных сетей на психику молодых пользователей.
Согласно TikTok, лента «Для вас», которая предлагает бесконечный поток контента, подобранного с помощью рекомендаций, уже была разработана, чтобы избежать повторяющихся шаблонов, которые могут утомить пользователей, например, не отображать несколько видео подряд от одного автора. Однако сейчас TikTok вносит изменения, чтобы алгоритм распознавал контент на негативные темы, такие как «экстремальная диета и фитнес» или «печаль», — написала компания в своем блоге. Поступая таким образом, компания надеется «защитить от просмотра слишком большого количества категорий контента, которые могут быть хорошими как одно видео, но проблематичными при просмотре в большом количестве».
Эти изменения основаны на консультациях с экспертами в области медицины, клинической психологии и этики искусственного интеллекта.
TikTok идет на этот шаг в разгар общественного осмысления токсичности социальных сетей для детей и подростков, которые находятся в наиболее впечатлительном возрасте.
Сейчас представителей социальных сетей, включая TikTok, вызывают в Конгресс, чтобы они ответили на вопросы об опасности их продуктов, но исследования о TikTok отсутствуют. Однако в статье New York Times «Как TikTok читает ваши мысли» был рассмотрен утекший документ под названием «TikTok Algo 101», полученный от инженерной группы компании в Пекине. Он предполагает, что алгоритмы оптимизируют ленты, чтобы держать пользователей в приложении как можно дольше, даже если это означает продвижение «печального» контента, который может принести вред потребителю.
TikTok также сообщил, что он позволит пользователям удалять определенные слова или хэштеги из своих лент, что поможет, скажем, вегетарианцу, который хочет избегать мясных рецептов, или человеку с низкой самооценкой, который хочет избегать бьюти-туториалов.