Сенаторы требуют от TikTok ответа по поводу «зловещего» эксперимента, в ходе которого сдерживалась функция безопасности алгоритма

TikTok сталкивается с новой волной вопросов о своей политике безопасности и о том, как его алгоритм порождает проблемные «информационные пузыри». Сенаторы Марша Блэкберн и Ричард Блументаль направили резкое по форме письмо высшему руководству компании, потребовав объяснить, как приложение тестировало ключевые функции безопасности, а в некоторых случаях и удерживало их внедрение.

Письмо появилось после того, как Bloomberg сообщил об эксперименте, который компания начала в 2021 году и который касался функции алгоритмической безопасности. Это изменение было призвано помочь пользователям избегать «повторяющихся паттернов» или того, что иногда называют «информационными пузырями» в ленте рекомендаций («for you»). Тогда компания заявляла, что обновление призвано защитить от «просмотра слишком большого количества контента определенной категории, который может быть безобидным в виде отдельного видео, но становится проблемным при просмотре группами».

Чего компания тогда не сообщила, так это того, что она планировала не запускать эту функцию для миллионов пользователей, чтобы использовать эту «контрольную группу» для проверки её влияния на вовлеченность. По данным Bloomberg, один американский подросток, Чейз Наска, покончил жизнь самоубийством вскоре после того, как его аккаунт стал частью контрольной группы. Согласно внутреннему документу TikTok, опубликованному изданием ранее в этом месяце, подросток «попал в информационный пузырь, где его аккаунту в большом количестве рекомендовался контент, связанный с самоубийством, селфхармом и депрессивными темами, особенно в период, предшествовавший дате его самоубийства».

В своем письме сенаторы требуют, чтобы TikTok предоставил подробную информацию об этом и аналогичных экспериментах. Компанию также прижали к стенке вопросами о том, не принимала ли она когда-либо решения отказаться от внедрения функции безопасности из-за ее потенциального влияния на вовлеченность или рекламную выручку. Компании установили дедлайн для предоставления ответов — 1 сентября. «Эти последние разоблачения показывают, что TikTok не только обладал информацией об опасностях, создаваемых его рекомендательными системами, но и намеренно лишил миллионы пользователей доступа к средствам защиты, чтобы компания могла изучить влияние таких мер на вовлеченность», — говорится в письме.

Оба законодателя тесно вовлечены в борьбу за усиление мер защиты подростков в социальных сетях и были главными сторонниками Закона о безопасности детей в Интернете (KOSA). Эксперимент 2021 года начался вскоре после того, как представитель руководства TikTok выступил на слушаниях в Конгрессе, на которых Блументаль и Блэкберн призывали компанию делать больше для защиты детей на своей платформе. «Эти откровения ужасны, но они выглядят еще более зловеще из-за того, что TikTok был предупрежден о последствиях влияния своих рекомендательных алгоритмов на детей», — пишут сенаторы.

TikTok не сразу ответил на запрос о комментариях.