Apple précise ses règles contre les images intimes sans consentement

Apple a annoncé vendredi une mise à jour des règles de l’App Store visant plus explicitement les applications qui génèrent des images intimes de personnes sans leur consentement à l’aide d’outils d’IA, rapporte The Verge. Le changement porte notamment sur les obligations imposées aux développeurs en matière de modération.

Selon les nouvelles règles rapportées par le média, les développeurs doivent prévenir de manière proactive la présence de ces images et les retirer. Une application peut être supprimée de l’App Store si ses responsables ne mettent pas en place des protections suffisantes ou ne corrigent pas les violations après notification. Apple précise aussi l’interdiction d’ajouter de telles fonctionnalités après l’approbation initiale d’une application.

Cette clarification intervient après les critiques suscitées par des images sexualisées non consenties produites avec Grok par des utilisateurs de X, y compris des images de mineurs. The Verge rappelle qu’Apple n’avait retiré ni X ni Grok de sa boutique, tout en ayant déclaré à des sénateurs avoir menacé de retirer Grok.

La portée concrète de cette mise à jour dépendra de son application. Le texte décrit des obligations et des sanctions possibles ; il ne démontre pas que les applications concernées sont désormais toutes détectées ou retirées. L’évolution à surveiller sera donc la manière dont Apple évaluera les protections des développeurs et répondra aux violations signalées.