Apple precisa sus normas contra las imágenes íntimas sin consentimiento

Apple anunció el viernes una actualización de las normas de la App Store que aborda de forma más explícita las aplicaciones que generan imágenes íntimas de personas sin su consentimiento mediante herramientas de IA, informa The Verge. El cambio afecta, en particular, a las obligaciones de moderación impuestas a los desarrolladores.

Según las nuevas normas recogidas por el medio, los desarrolladores deben prevenir de forma proactiva la presencia de estas imágenes y retirarlas. Una aplicación puede ser eliminada de la App Store si sus responsables no implantan protecciones suficientes o no subsanan las infracciones tras recibir una notificación. Apple también precisa la prohibición de añadir tales funciones después de la aprobación inicial de una aplicación.

Esta aclaración llega tras las críticas suscitadas por imágenes sexualizadas no consentidas producidas con Grok por usuarios de X, incluidas imágenes de menores. The Verge recuerda que Apple no había retirado ni X ni Grok de su tienda, aunque había declarado ante senadores que había amenazado con retirar Grok.

El alcance concreto de esta actualización dependerá de su aplicación. El texto describe obligaciones y posibles sanciones; no demuestra que ahora se detecten o retiren todas las aplicaciones afectadas. Por tanto, habrá que observar cómo evaluará Apple las protecciones de los desarrolladores y cómo responderá a las infracciones notificadas.