TikTok : New York conteste le fonctionnement d’un outil de sécurité testé sur des mineurs

Selon des allégations contenues dans la plainte de New York contre TikTok, certains adolescents et enfants auraient activé un outil de sécurité sans obtenir la modification attendue de leurs recommandations. TechCrunch rapporte, en s’appuyant sur Reuters, que ces expérimentations concernaient des milliers d’utilisateurs ayant choisi des fonctions de sécurité comme Algo Refresh.

Cet outil permet de réinitialiser les recommandations afin de ne plus voir des contenus indésirables ou potentiellement nocifs. D’après les faits allégués, les utilisateurs inclus dans l’expérience pensaient l’avoir activé, mais leur fil ne changeait pas. D’autres utilisateurs, hors de l’expérience, disposaient d’une version fonctionnelle. Cette différence de traitement constitue le cœur de l’accusation rapportée.

Dans sa réponse à Reuters, TikTok explique tester régulièrement de nouveaux produits et fonctionnalités pour comprendre leur fonctionnement en conditions réelles. Cette déclaration expose la justification générale de l’entreprise ; elle ne permet pas de trancher les allégations concernant Algo Refresh. TikTok n’avait pas immédiatement répondu à la demande de commentaire de TechCrunch.

L’affaire soulève une question de conception : si les allégations étaient établies, l’utilisateur aurait reçu un signal d’activation sans bénéficier de l’effet annoncé. Pour un outil destiné à reprendre la main sur les recommandations, ce décalage pourrait compromettre la confiance dans les réglages de sécurité. Le document disponible décrit une accusation dans une procédure, sans fournir de décision judiciaire sur ces faits.