Des défis techniques pour Amazon dans le développement de son assistant vocal
Amazon continue de travailler dur sur la création d’un assistant numérique Alexa alimenté par l’intelligence artificielle. Selon un article du Financial Times, l’entreprise doit encore surmonter plusieurs obstacles techniques avant de lancer cette fonctionnalité très attendue. Rohit Prasad, le responsable de l’équipe d’Amazon AI, souligne que l’un des principaux défis à relever est le problème des “hallucinations”. Ce terme décrit les erreurs factuelles que les modèles de langage ont tendance à produire, ce qui complique la commercialisation de cette technologie pour de nombreuses entreprises.
La problématique des “hallucinations”
Prasad a déclaré à ce sujet que les hallucinations doivent être réduites à des taux très bas. Cependant, il est bien plus facile de le dire que de le faire. Malgré des investissements s’élevant à des milliards de dollars et la création de centres de données massifs pour alimenter des modèles d’IA de plus en plus complexes, même les chatbots les plus avancés continuent de présenter une forte propension à émettre des déclarations fausses.
Des spécialistes estiment que ce problème pourrait être inhérent à la technologie elle-même. Autrement dit, les hallucinations pourraient toujours faire partie de l’équation, un fait que les entreprises technologiques n’osent pas souvent reconnaître, surtout en cette période où l’IA générative fait beaucoup de bruit.
L’opinion des experts
Daniela Amodei, cofondatrice et présidente d’Anthropic, a expliqué à l’Associated Press que ces modèles sont principalement conçus pour prédire le mot suivant. Par conséquent, il existe un taux d’inexactitude inévitable. En parallèle, certaines entreprises ayant investi des sommes considérables préfèrent minimiser l’importance de ce problème, affirmant qu’il ne s’agit que d’une question de temps avant que le problème soit résolu.
D’autres, comme Microsoft, pensent qu’une augmentation de l’intelligence artificielle pourrait aider à régler le problème. L’an dernier, la société a présenté un outil utilisant l’IA pour évaluer les résultats d’autres modèles, bien que certains experts émettent des doutes quant à la faisabilité de cette approche.
Les limites de l’IA actuelle
Il est important de noter qu’éradiquer les hallucinations de l’IA générative pourrait être aussi complexe que tenter d’éliminer l’hydrogène de l’eau, selon Os Keyes, doctorant à l’Université de Washington. Dans le cas d’Amazon, on constate qu’ils sont toujours en retard par rapport à la concurrence pour lancer un assistant personnel pouvant générer des réponses. Bien qu’ils travaillent sur la refonte d’Alexa depuis fin 2022, le temps nécessaire pour surmonter ces difficultés reste un obstacle.
Les capacités d’Alexa sont actuellement limitées, l’assistant se contentant d’accomplir des tâches simples comme changer de musique ou démarrer un minuteur. De plus, maintenir des assistants IA en fonctionnement et à même de recevoir des “milliards de requêtes chaque semaine” peut s’avérer coûteux, en raison de la nature énergivore de ces technologies.
Les défis financiers
Transformez cet assistant en source de revenus, même avec un abonnement mensuel de 10 $ évoqué, pourrait être une mission difficile. Cette situation ne concerne pas uniquement Amazon. L’assistant personnel de Siri chez Apple doit également subir une refonte alimentée par l’IA. Toutefois, Apple s’accorde jusqu’en 2026 pour son lancement et a été contraint d’interrompre une fonctionnalité de résumé d’actualités alimentée par l’IA. Cette fonctionnalité a, en effet, diffusé des informations erronées à des millions d’utilisateurs pendant plusieurs semaines.
Les enjeux de sécurité
Les enjeux sont considérables pour des entreprises comme Amazon et Apple. L’activation d’un assistant qui produit des hallucinations et qui a accès à des données provenant d’autres appareils connectés, tels que des sonnettes intelligentes ou des caméras de sécurité, pourrait avoir des conséquences désastreuses.
FAQ
Quel est le problème des hallucinations dans l’IA ?
Les hallucinations désignent des erreurs impertinentes et souvent fausses que des modèles d’IA peuvent générer, ce qui complique leur fiabilité.
Quelles sont les solutions proposées pour résoudre ce problème ?
Des entreprises comme Microsoft explorent des outils d’évaluation par IA pour juger les performances d’autres modèles, mais cette approche est controversée.
Pourquoi Amazon prend-il du retard par rapport à ses concurrents ?
Malgré des investissements importants, la complexité des défis techniques liés à la réduction des hallucinations retarde le lancement de son assistant personnel alimenté par l’IA.
Quels types de tâches Alexa peut-elle accomplir actuellement ?
Alexa se concentre principalement sur des fonctions simples comme la gestion de la musique, des minuteurs, et d’autres tâches basiques pour les utilisateurs.
Quels sont les risques associés à un assistant IA halluciné ?
Un assistant qui produit des informations erronées et qui a accès à des appareils connectés présente de sérieux risques de sécurité et de confiance pour les utilisateurs.