Une Nouvelle Déception avec l’IA
Nous avons du mal à croire que cela se reproduise encore, mais une autre lancement très attendu d’un produit d’IA vient de se solder par des hallucinations manifestes de la technologie.
Cette fois-ci, il s’agit du AI Pin de Humane. Après des années de silence et des levées de fonds importantes, ce petit appareil sans écran a enfin été dévoilé la semaine dernière. Concevoir par Imran Chaudhri et Bethany Bongiorno, deux anciens d’Apple, le AI Pin était présenté comme une alternative au smartphone. Dans une vidéo promotionnelle de dix minutes, les utilisateurs pouvaient passer des appels, consulter des messages, écouter de la musique, prendre des photos et poser des questions à l’IA grâce à des tapotements, des gestes de la main et des commandes vocales.
Cependant, il semblerait que cinq ans ne soient pas suffisants pour préparer un lancement sans échappes. À peine une semaine après sa présentation, Business Insider a rapporté que l’entreprise devait refilmer la vidéo en raison de deux erreurs distinctes au niveau de l’IA.
Cette situation est alarmante, car c’est déjà la troisième fois cette année qu’une entreprise d’IA bien connue rencontre ce genre de problème. En février, Google et Microsoft avaient également diffusé des contenus erronés lors de leurs promotions. Cela soulève une question importante : pourquoi personne dans l’industrie de l’IA ne semble-t-il faire des vérifications sur les faits liés à leurs propres technologies ?
Erreurs Basiques de l’IA
Les erreurs du AI Pin sont particulièrement frappantes car elles concernent des questions très simples. Selon Insider, le premier incident se produit environ trois minutes et quarante secondes dans la vidéo, lorsque Chaudhri demande à l’appareil où il faut se rendre pour observer la prochaine éclipse solaire. L’IA répond qu’il faut aller en Australie, mais cette information est complètement fausse ; la prochaine éclipse solaire, surnommée la Grande Éclipse Américaine, sera visible principalement en Amérique du Nord.
Un peu plus tard, à peu près au sixième minute de la vidéo, Chaudhri se renseigne sur le nombre de grammes de protéines contenus dans une poignée d’amandes. L’IA affirme avec assurance qu’il y en a quinze, mais un utilisateur de Twitter a rapidement fait remarquer qu’il faudrait en réalité consommer 60 amandes pour atteindre cette quantité de protéines.
Sam Sheffer, le responsable des nouveaux médias chez Humane, a tenté d’expliquer ces erreurs sur le serveur Discord de l’entreprise en affirmant que les fautes provenaient de logiciels en phase de pré-lancement. Néanmoins, il reste que les créateurs d’IA semblent prendre les réponses de leur technologie pour argent comptant, malgré sa tendance à générer des informations inexactes. Étant donné la conviction des créateurs quant à l’impact potentiel du AI, on pourrait s’attendre à ce que l’industrie adopte une approche plus critique, au lieu de se fier aveuglément à leurs outils.
FAQ
Qu’est-ce que le AI Pin ?
Le AI Pin est un appareil sans écran développé par Humane, permettant à ses utilisateurs d’effectuer diverses tâches grâce à des gestes, des tapotements et des commandes vocales.
Pourquoi les hallucinations d’IA sont-elles un problème ?
Les hallucinations d’IA peuvent mener à la diffusion d’informations fausses et nuire à la confiance des utilisateurs dans ces technologies, ce qui soulève des préoccupations sur leur fiabilité.
Comment les entreprises d’IA vérifient-elles leurs informations ?
Malheureusement, il semble que beaucoup d’entre elles ne mettent pas en place des processus de vérification rigoureux, ce qui peut conduire à des erreurs notables lors de présentations publiques.
Quel impact les erreurs d’IA peuvent-elles avoir sur la réputation d’une entreprise ?
Ces erreurs peuvent entacher la crédibilité de l’entreprise et générer des doutes quant à la qualité et à la fiabilité de ses produits.
Existe-t-il des exemples positifs de l’utilisation de l’IA sans erreurs ?
Bien qu’il y aiteu des avancées dans certains domaines, les erreurs persistantes dans les produits d’IA soulignent le besoin urgent d’améliorations et de contrôles de qualité rigoureux.
