TikTok: Нью-Йорк оспаривает работу инструмента безопасности, который тестировали на несовершеннолетних

Согласно утверждениям в иске Нью-Йорка против TikTok, некоторые подростки и дети активировали инструмент безопасности, но не получили ожидаемых изменений в рекомендациях. TechCrunch со ссылкой на Reuters сообщает, что эти эксперименты затронули тысячи пользователей, выбравших функции безопасности, такие как Algo Refresh.

Этот инструмент позволяет сбросить рекомендации, чтобы больше не видеть нежелательный или потенциально вредный контент. Согласно изложенным в иске утверждениям, участники эксперимента считали, что активировали инструмент, однако их лента не менялась. Другим пользователям, не участвовавшим в эксперименте, была доступна работающая версия. Это различие в обращении с пользователями составляет суть описанного обвинения.

В ответе Reuters TikTok поясняет, что регулярно тестирует новые продукты и функции, чтобы понять, как они работают в реальных условиях. Это заявление излагает общее обоснование компании, но не позволяет установить обоснованность утверждений об Algo Refresh. TikTok не ответила сразу на запрос TechCrunch о комментарии.

Дело поднимает вопрос о проектировании: если бы утверждения подтвердились, это означало бы, что пользователь получил сигнал об активации, но не получил заявленного эффекта. Для инструмента, предназначенного для восстановления контроля над рекомендациями, такое несоответствие могло бы подорвать доверие к настройкам безопасности. Доступный материал описывает обвинение в рамках судебного разбирательства, но не содержит судебного решения по этим обстоятельствам.