Les applications de nudification avec intelligence artificielle se répandent sur l'App Store et le Google Play Store

On prétend que les applications d'intelligence artificielle connues sous le nom de « nudify » sont toujours incluses dans les magasins d'applications d'Apple et de Google et sont recommandées aux utilisateurs, bien qu'elles soient clairement interdites par les politiques. Le rapport actuel publié par le Tech Transparency Project montre que ces applications continuent non seulement d'être accessibles, mais sont également présentées dans les résultats de recherche de l'App Store et de Google Play. De plus, un nombre important de ces applications sont répertoriées dans la catégorie d'âge « Tout le monde » et permettent aux enfants de les télécharger et de les utiliser.

Selon le rapport, lorsque les utilisateurs effectuent une recherche dans les magasins avec des mots-clés tels que « nudifier » ou « se déshabiller », ils peuvent facilement accéder à des applications qui peuvent créer des images de personnes réelles nues ou les transformer en contenu pornographique à l'aide de l'intelligence artificielle. Par ailleurs, il est précisé que certaines applications ne sont pas directement commercialisées à cet effet, mais peuvent être utilisées pour produire du contenu deepfake. L’affichage de publicités pour des applications similaires dans les résultats de recherche renforce les critiques selon lesquelles les plateformes ne restent pas passives dans la diffusion de ces contenus.

La propagation des applications deepfake créées avec l’intelligence artificielle suscite la controverse

Tech Transparency Project rapporte avoir détecté 18 applications nudify différentes dans l'App Store d'Apple et 20 applications nudify différentes dans Google Play. Si certaines de ces applications sont directement promues avec des images à caractère sexuel, d’autres donnent une impression différente en utilisant des expressions plus générales. Malgré cela, il est indiqué que la plupart des applications en question ont le même objectif et peuvent créer du contenu inapproprié en manipulant les photos des utilisateurs.

Le rapport révèle que ces applications ont généré environ 122 millions de dollars de revenus totaux et ont été téléchargées 483 millions de fois. Ces chiffres montrent que les applications touchent une large base d'utilisateurs et génèrent un volume économique important. Katie Paul, directrice du projet Tech Transparency, déclare que les plates-formes sont non seulement insuffisantes pour contrôler ces applications, mais également pour diriger les utilisateurs vers ces applications.

Apple et Google, en revanche, soulignent qu'ils ont des politiques interdisant le contenu pornographique dans leurs magasins d'applications. Google a un ensemble de règles distinctes, notamment contre les applications Nudify. Malgré cela, le fait que les applications puissent rester actives pendant une longue période soulève des questions quant à l’efficacité des processus d’audit. Alors qu'Apple a déclaré que 15 applications mentionnées dans le rapport avaient été supprimées, Google a également annoncé que certaines applications avaient été suspendues. Cependant, on sait que des applications similaires peuvent revenir dans les magasins avec des noms et des méthodes différents.

Par exemple, l’une des applications incluses dans le rapport s’appelle Video Face Swap AI DeepFace. Cette application est introduite avec la fonctionnalité de superposer le visage d'une personne sur un autre corps, permettant ainsi de superposer les visages de personnes réelles sur des corps féminins partiellement nus. Malgré cela, il convient de noter que l'application est incluse dans la catégorie « Tout le monde ».

En plus de tout cela, la propagation des applications deepfake basées sur l’intelligence artificielle a accéléré les appels à une réglementation juridique dans différents pays. Au Royaume-Uni, le commissaire à l'enfance a demandé l'interdiction des applications d'intelligence artificielle susceptibles de produire du contenu sexuel pour les enfants. De nouvelles lois ont été introduites aux États-Unis et dans certains autres pays contre les deepfakes produisant des contenus explicitement sexuels. Le fait que le bureau du procureur général de Californie ait envoyé un avertissement à la plateforme X en raison d'un contenu deepfake inapproprié produit via Grok montre que ce débat ne se limite pas aux entreprises technologiques.