Assistant Ba(r)d
Récemment, Google a lancé une nouvelle extension pour son assistant, Bard, qui semble promettre beaucoup : la possibilité de résumer vos e-mails, de planifier vos voyages et, oh surprise, de fabriquer des e-mails que vous n’avez jamais envoyés. Cependant, les premières impressions montrent que cela ne fonctionne pas tout à fait comme prévu.
La semaine dernière, Google a intégré Bard, son chatbot alimenté par un modèle de langage puissant, dans divers services tels que Gmail, Google Drive et même YouTube. Bien qu’il soit logique pour Google d’intégrer cette technologie d’IA générative à ses produits existants, l’exécution semble avoir été précipitée.
Quand l’IA se trompe
Selon Kevin Roose, chroniqueur pour le New York Times, Bard ne remplit pas encore bien son rôle d’assistant dans les e-mails. Au cours de ses essais, Roose a constaté que l’IA avait inventé des échanges de courriels qui n’avaient jamais eu lieu. Même si cela représente une avancée par rapport à d’autres intelligences artificielles, il reste préoccupant que Google lance une telle fonctionnalité avec encore tant de problèmes à résoudre.
Les hallucinations de Bard ont commencé lorsque Roose lui a demandé d’analyser ses e-mails pour en tirer des conclusions sur ses problèmes psychologiques. Bien que cela puisse sembler une demande étrange, c’est relativement simple. Bard a rapidement indiqué que Roose s’inquiétait de l’avenir, se basant sur un e-mail qu’il prétendait avoir reçu, où il exprimait des craintes liées à son travail.
Erreurs troublantes
Le hic, c’est que Roose n’a jamais envoyé cet e-mail. L’IA a en fait trouvé une newsletter sur la biographie d’Elon Musk et a mal interprété une citation, créant ainsi un entièrement nouvel e-mail qu’elle a prétendu avoir été rédigé par Roose. Cela n’a pas été un incident isolé ; l’IA a encore fabriqué d’autres messages en inventant des plaintes que Roose n’avait pas exprimées et a même confondu des informations sur des vols.
En réponse aux préoccupations de Roose, Jack Krawczyk, le directeur de Bard chez Google, a précisé que les Extensions Bard sont encore au stade expérimental, marquant ce lancement comme une première version de leur produit. Cependant, même avec cette excuse, il semble que l’extension soit encore en phase de développement et pose de sérieuses interrogations sur la sécurité des données et la protection de la vie privée.
Enfin, il est inquiétant de penser que, dans sa course pour dominer le secteur de l’IA, Google pourrait commettre des erreurs fondamentales pouvant entraîner des conséquences fâcheuses.
FAQ
Quelles sont les principales fonctionnalités de Bard ?
Bard est conçu pour résumer des e-mails, planifier des voyages et interagir avec plusieurs services Google.
Bard est-il déjà disponible pour tous les utilisateurs ?
Pour le moment, Bard est en phase expérimentale et n’est pas entièrement déployé, ce qui signifie qu’il peut encore y avoir des bugs à corriger.
Quels sont les risques potentiels liés à l’utilisation de Bard ?
Les préoccupations incluent des erreurs dans l’analyse des e-mails et des problèmes de confidentialité des données personnelles.
Comment Google aborde-t-il les erreurs de Bard ?
Google a reconnu que Bard nécessite encore des améliorations et a déclaré que les extensions sont en développement, bien que cela soulève des questions sur le lancement prématuré du produit.
Existe-t-il des alternatives à Bard ?
Oui, il existe d’autres outils d’IA et de productivité qui offrent des fonctionnalités similaires, bien que chacun ait ses propres avantages et inconvénients.
