Amazon a lancé une nouvelle fonctionnalité, baptisée “À propos de vous”, qui utilise l’intelligence artificielle pour personnaliser les recommandations de produits. Cependant, cette innovation suscite des réactions inattendues et parfois déroutantes parmi les utilisateurs. En effet, beaucoup ont constaté que les déductions faites par le système semblaient excessives, voire offensantes.
Ce qu’il faut savoir
Introduite en mai, cette fonctionnalité s’inscrit dans un effort d’Amazon pour intégrer l’IA dans l’expérience d’achat en ligne. Plutôt que de se contenter de suggérer des produits en arrière-plan, le système établit un ensemble de caractéristiques et de préférences que la plateforme croit avoir déduit de chaque client. Ces informations sont alors utilisées pour orienter les recommandations de produits.
Selon Amazon, ces suggestions reposent sur des données telles que l’historique d’achats des clients ainsi que leurs interactions avec Alexa pour les achats. Contrairement aux approches précédentes où la personnalisation était invisible, cette nouvelle fonctionnalité affiche les hypothèses formulées par le système à partir des activités d’achat des utilisateurs.
Sur les réseaux sociaux, une utilisatrice nommée Megan Montgomery a partagé une capture d’écran de cette fonction, révélant qu’Amazon avait conclu qu’elle “avait des fesses plates”. Cela a suscité une vague de commentaires, où d’autres utilisateurs ont fait état de conclusions audacieuses tirées de leurs comportements d’achat.
Les réactions des utilisateurs
De nombreux utilisateurs ont exprimé leur stupéfaction face aux interprétations du système. Par exemple, un autre utilisateur a signalé qu’Amazon avait supposé qu’il “a un mari” avec “des jambes maigres”. D’autres commentaires mettaient en lumière des déductions aussi surprenantes qu’erronées, comme celle d’un utilisateur dont l’IA a affirmé qu’il utilise son téléphone sous la douche pour lire des livres Kindle.
Contexte supplémentaire
Bien que les recommandations personnalisées ne soient pas nouvelles chez Amazon, la fonction “À propos de vous” offre une transparence sur l’profil sous-jacent qui alimente ces suggestions. Par exemple, une autre capture d’écran publiée par un utilisateur a révélé que le système supposait qu’il “ne fait pas facilement confiance aux gens”.
Des utilisateurs de Reddit ont également rapporté des déductions surprenantes. Dans un cas, un acheteur a découvert que le système semblait croire qu’il ne savait pas à quoi ressemblait le goût d’une truffe.
Que peut-on faire ?
D’après Business Insider, la fonctionnalité “À propos de vous” est accessible via l’application d’achat, le site mobile et sur ordinateur. Les utilisateurs peuvent naviguer vers leur compte, puis vers les préférences d’achat pour y trouver cette option. Une fois sur cette page, il est possible de revoir chaque élément proposé et de modifier ou supprimer toute information non souhaitée pour les futures recommandations.
L’analyse des profils par des reporters de Business Insider a donné des résultats variés. Dans certains cas, l’IA fournissait des informations erronées, tandis que dans d’autres, elle parvenait à comprendre les préférences des utilisateurs, comme par exemple pour des produits bio.
En savoir plus
Le profilage parfois maladroit basé sur des données personnelles soulève des questions concernant l’utilisation de l’IA dans le commerce en ligne. Le fait que certaines recommandations semblent déplacées ou inappropriées reste un sujet de discussion. Des employés d’Amazon ont d’ailleurs exprimé leur préoccupation, signant une lettre pour alerter sur les dangers de la surveillance excessive.
FAQ
Que sont les recommandations personnalisées d’Amazon ?
Les recommandations personnalisées utilisent des données sur vos précédents achats et comportements pour suggérer des produits qui pourraient vous intéresser.
Comment modifier ou supprimer des informations dans mon profil Amazon ?
Vous pouvez le faire en accédant à l’onglet “À propos de vous” dans votre compte sur l’application ou le site web, où vous pouvez voir et ajuster les déductions faites par l’IA.
Pourquoi les recommandations d’Amazon peuvent-elles sembler étranges ou inappropriées ?
Cela est dû au fait que l’IA tente de déduire des informations basées sur des données d’achat, ce qui peut parfois mener à des conclusions erronées ou jugées intrusives par les utilisateurs.
Est-ce que tous les utilisateurs d’Amazon voient ces recommandations ?
Oui, tous les utilisateurs qui utilisent la nouvelle fonction “À propos de vous” peuvent voir les recommandations basées sur leurs comportements d’achat.
Quelle est la réaction générale des utilisateurs face à cette fonctionnalité ?
Les réactions varient, mais beaucoup trouvent les déductions de l’IA surprenantes et même dérangeantes, soulevant des questions sur leur pertinence et leur précision.
