Annonce Surprise d’Amazon
La semaine dernière, Amazon a fait une annonce inattendue concernant son division de cloud computing. La société a présenté un nouveau chatbot AI nommé Amazon Q. Il ne faut pas le confondre avec **Q*** d’OpenAI, qui est secret et évoqué comme un système d’intelligence artificielle distinct et puissant.
Cependant, selon des documents internes divulgés par Platformer, le lancement de Q semble rencontrer des difficultés. Il aurait déjà commencé à afficher des « hallucinations sévères » et à incidemment divulguer des données sensibles.
Une porte-parole d’Amazon a réagi à ces allégations, certifiant que « Amazon Q n’a pas diffusé d’informations confidentielles ».
Incidents Alarmants
D’après Platformer, cet incident a été classé comme « sev 2 », indiquant qu’il était suffisamment sérieux pour nécessiter l’intervention des ingénieurs, même pendant la nuit. Il semblerait que le chatbot ait divulgué des lieux de centres de données d’Amazon Web Services ainsi que des fonctionnalités non sorties.
Cela pose un véritable problème pour Amazon, étant donné que Q s’adresse directement aux entreprises, lesquelles sont notoirement prudentes dans la diffusion d’informations sensibles, surtout face à des chatbots tels que ChatGPT d’OpenAI. Les avocats d’Amazon eux-mêmes ont mis en garde leurs employés contre tout risque de fuite d’informations via l’IA.
Pire encore, pour beaucoup, Q symbolise les efforts renouvelés d’Amazon pour rivaliser dans la course à l’IA, principalement dominée par des géants comme Microsoft et Google.
Hallucinations et Enjeux
Ce n’est pas la première fois que des modèles de langage rencontrent des problèmes de véracité, émettant des affirmations incorrectes. Le célèbre chatbot ChatGPT d’OpenAI rencontre encore des difficultés pour distinguer le vrai du faux et peut être utilisé pour créer des narrations nuisibles ou répandre de la désinformation.
Les enjeux sont élevés pour Amazon, qui essaie de renverser l’image selon laquelle elle a pris du retard dans le domaine de l’IA. Il n’est donc pas surprenant qu’un représentant d’Amazon ait tenté de minimiser les répercussions de cette situation dans une déclaration faite à Platformer.
Réactions d’Amazon
La porte-parole a mentionné que certains employés fournissent des retours via des canaux internes, ce qui est une pratique normale chez Amazon, et a ajouté qu’aucun problème de sécurité n’avait été identifié à la suite de ces feedbacks.
Alors qui croire, Platformer ou Amazon ? Adam Selipsky, le directeur d’Amazon Web Services, a déclaré au New York Times que Q a été élaboré en réponse aux préoccupations de grandes entreprises comme Apple, Verizon, Samsung, et Northrop Grumman. Ces sociétés avaient précédemment mis en place des politiques interdisant l’usage de ChatGPT par crainte de fuites de données.
Selipsky a indiqué : « Amazon a conçu Q pour être plus sécurisé et privé qu’un chatbot classique. »
Cependant, si ces rapports s’avèrent exacts, les entreprises pourraient se trouver en danger réel en adoptant l’IA d’Amazon.
Les regards sont donc rivés sur Amazon, alors que la compétition est plus intense que jamais.
FAQ
Quels types de données Amazon Q pourrait-il divulguer ?
Amazon Q pourrait potentiellement divulguer des informations sensibles sur l’emplacement des centres de données et des fonctionnalités non publiées, ce qui pose un risque pour la confidentialité des entreprises.
Comment Amazon Q se compare-t-il à d’autres chatbots?
Amazon Q est conçu pour être plus sécurisé et respecter la vie privée, en réponse à des préoccupations soulevées par d’autres entreprises envers des chatbots comme ChatGPT.
Pourquoi est-il important pour Amazon de réussir dans le domaine de l’IA?
Réussir dans l’IA est crucial pour Amazon pour ne pas être perçue comme en retard par rapport à ses concurrents, comme Microsoft et Google, qui dominent largement ce secteur.
Quelles entreprises ont exprimé des préoccupations concernant l’utilisation de l’IA?
Des entreprises comme Apple, Verizon, Samsung, et Northrop Grumman ont mis en place des politiques interdisant l’utilisation de certains chatbots pour des raisons de sécurité et de confidentialité.
Comment les employés d’Amazon sont-ils encouragés à partager des retours ?
Les employés d’Amazon peuvent donner leur avis à travers des canaux internes et des systèmes de tickets, ce qui fait partie des pratiques standards de l’entreprise.
