ADGO.ca propose un contenu et des recommandations de produits de manière indépendante. Nous pourrions générer des revenus si vous cliquez sur les liens de nos partenaires.
Recherche de contenus inappropriés dans les app stores
Lorsque vous tapez “nudify” dans une boutique d’applications, vous pourriez déjà tomber sur un problème, juste dans les résultats de recherche.
Apple et Google sont confrontés à de nouvelles accusations selon lesquelles leurs magasins d’applications ne se contentent pas d’héberger des applications de nudité, mais les facilitent également pour les utilisateurs.
Le projet Tech Transparency a signalé une augmentation de ce problème depuis janvier, lorsque des dizaines d’applications de nudification ont été trouvées encore disponibles sur les plateformes d’Apple et de Google. Leur dernier rapport indique que ces applications ont totalisé des centaines de millions de téléchargements, soulevant ainsi des interrogations sur comment ces entreprises dirigent les utilisateurs vers elles.
Des applications en quantité, des revenus conséquents
Les données de janvier avaient déjà montré qu’il ne s’agissait pas d’un simple manquement de modération. Le projet TTP a révélé plus de 100 applications sur les boutiques d’Apple et de Google qui permettaient de déshabiller des femmes en photos ou de les placer dans des images sexualisées.
Le rapport d’avril souligne que ce problème est plus difficile à ignorer, car une poignée d’applications discutables a échappé au contrôle habituel. Selon les résultats de TTP, ces applications récemment mises en avant avaient été téléchargées 483 millions de fois et avaient généré plus de 122 millions de dollars en revenus depuis leur lancement, prouvant que cela représente une catégorie active plutôt qu’un aspect marginal des boutiques.
Une simple recherche se transforme vite en une avalanche
Les utilisateurs n’avaient pas besoin de chercher longtemps pour tomber sur ces contenus.
Le projet TTP a testé les deux magasins avec des termes comme “nudify”, “undress” et “deepnude”, puis a analysé les résultats les plus pertinents. Dans les deux magasins, environ 40 % des applications pouvaient déshabiller des femmes, transformant une simple recherche en une série de rencontres répétées avec ces outils.
Une seule recherche pouvait rapidement se multiplier. Parfois, la boutique d’Apple mettait les publicités de nudification en tête, alors que Google Play combinait les placements sponsorisés avec un carrousel de suggestions contenant des applications à contenu sexuellement explicite. L’autocomplétion a également contribué à cette tendance en affichant des termes de recherche associés, conduisant ainsi les utilisateurs à des résultats supplémentaires dans le même domaine.
Plutôt que d’interrompre les recherches, ces boutiques risquaient de les alimenter. Une simple requête pouvait se transformer en une chaîne d’annonces, de termes suggérés, et de nouvelles applications pointant dans la même direction.
Règles en théorie, mais réalité différente
Apple et Google ne manquent pas de règles écrites.
Google interdit les applications à contenu sexuel ou qui dégradent ou objectivent les individus, y compris celles prétendant déshabiller quelqu’un ou voir à travers les vêtements. De son côté, Apple ne désire pas voir de contenu offensant, pornographique ou « tout simplement dérangeant ». Pourtant, ces plateformes continuaient à mettre en avant des applications apparaissant en contradiction avec ces critères.
Cette situation a élargi le problème au-delà de la simple question de l’approbation des applications. Certaines des applications identifiées lors de ces recherches étaient même jugées appropriées pour les mineurs.
Les récentes découvertes de TTP soulèvent des interrogations supplémentaires sur le fonctionnement des évaluations d’âge, des approbations publicitaires, et des fonctionnalités de recherche sur des plateformes qui affirment déjà que ce type de contenu ne devrait pas y figurer.
Google rapproche Gemini des flux de travail quotidiens avec une nouvelle application native pour macOS.
FAQ
Quelle est la cause principale de cette problématique ?
La présence d’applications à contenu sexuel sur les boutiques d’applications n’est pas nouvelle, mais leur accessibilité et leur promotion par les plateformes soulèvent des préoccupations éthiques et de sécurité.
Quelles sont les implications pour les utilisateurs ?
L’accès à des applications inappropriées peut avoir des conséquences négatives, en particulier pour les jeunes, en les exposant à du contenu potentiellement nuisible.
Les plateformes prennent-elles des mesures pour y remédier ?
Bien que des règles existent, la mise en application de celles-ci semble poser problème. La situation actuelle suggère que les plateformes doivent réévaluer leurs pratiques de modération.
La situation est-elle la même pour toutes les boutiques d’applications ?
Bien que les cas de contenu inapproprié soient souvent rapportés dans les boutiques d’Apple et de Google, d’autres plateformes pourraient rencontrer des problèmes similaires.
Comment les utilisateurs peuvent-ils signaler des applications inappropriées ?
Les utilisateurs sont invités à utiliser les fonctionnalités de signalement disponibles dans les magasins d’applications pour avertir les plateformes de contenus jugés inappropriés.