TikTok: Nueva York cuestiona el funcionamiento de una herramienta de seguridad probada con menores

Según las alegaciones contenidas en la demanda de Nueva York contra TikTok, algunos adolescentes y niños habrían activado una herramienta de seguridad sin obtener el cambio esperado en sus recomendaciones. TechCrunch informa, basándose en Reuters, de que estos experimentos afectaban a miles de usuarios que habían elegido funciones de seguridad como Algo Refresh.

Esta herramienta permite restablecer las recomendaciones para dejar de ver contenidos no deseados o potencialmente nocivos. Según los hechos alegados, los usuarios incluidos en el experimento creían haberla activado, pero su feed no cambiaba. Otros usuarios, ajenos al experimento, disponían de una versión funcional. Esta diferencia de trato constituye el núcleo de la acusación recogida.

En su respuesta a Reuters, TikTok explica que prueba regularmente nuevos productos y funciones para comprender cómo funcionan en condiciones reales. Esta declaración expone la justificación general de la empresa; no permite resolver las alegaciones relativas a Algo Refresh. TikTok no había respondido de inmediato a la solicitud de comentarios de TechCrunch.

El caso plantea una cuestión de diseño: si se acreditaran las alegaciones, el usuario habría recibido una señal de activación sin beneficiarse del efecto anunciado. En una herramienta destinada a recuperar el control sobre las recomendaciones, este desfase podría comprometer la confianza en los ajustes de seguridad. El documento disponible describe una acusación dentro de un procedimiento, sin aportar una resolución judicial sobre estos hechos.