Sommaire
ToggleInscription à la newsletter
Inscrivez-vous pour découvrir le futur dès aujourd’hui
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie</p>
</div>
</div>
</div>Mise en garde contre les illusions de l’IA
Vendredi dernier, lors d’un sommet technologique organisé par Bloomberg, des experts du secteur ont exprimé leurs préoccupations au sujet de l’apparence trompeuse de l’intelligence artificielle (IA). Selon eux, cette allure fascinante masque la réalité dérangeante de la technologie, qui peut s’avérer à la fois intrusive et exploitative.
Critique des PDG d’IA générative
Alex Hanna, responsable de la recherche au Distributed AI Research Institute, a pointé du doigt les dirigeants de grandes entreprises d’IA générative, notamment Sam Altman d’OpenAI et Emad Mostaque de Stability AI. Elle a dénoncé leur volonté de cacher que leurs produits reposent sur un travail humain colossal en coulisses.
Elle a déclaré : « Nous savons d’après des rapports qu’il existe une armée de travailleurs réalisant des annotations essentielles pour faire fonctionner ces systèmes, même modestement. »
Elle a ensuite ajouté que ces dirigeants présentaient leurs technologies comme « magiques », omettant de mentionner le travail humain nécessaire pour les faire fonctionner : « Ce sont des humains qui sont derrière tout cela. »
La façade d’autonomie de l’IA
Hanna a souligné que cette image d’autonomie de l’IA est en grande partie une illusion. « Ces technologies doivent sembler autonomes et presque magiques, mais elles reposent sur un énorme investissement de travail humain en amont. »
Préoccupations sur la vie privée
Meredith Whittaker, présidente de la fondation derrière l’application de messagerie Signal, a abordé la question de la vie privée. Selon elle, des services comme ChatGPT entravent notre droit à la confidentialité.
Whittaker a souligné que de nombreux individus dans l’assistance sont des utilisateurs d’IA, mais que la plupart des gens constituent en réalité le sujet de l’IA. « Ce n’est pas une question de choix individuel. »
Illustration par l’exemple
Elle a illustré son propos en prenant l’exemple d’une personne refusée pour un prêt bancaire. Cette dernière n’aurait aucune idée qu’un système probablement alimenté par des API de grandes entreprises aurait déterminé son inadéquation de crédit en se basant sur des données extraites des réseaux sociaux.
« Je ne pourrai jamais le savoir, et il n’existe aucune méthode pour que je puisse en prendre connaissance », a-t-elle ajouté.
Une surveillance camouflée
Whittaker a aussi mis en avant le fait que ces modèles d’IA opèrent dans l’ombre et servent souvent d’outils de surveillance. Ils collectent d’énormes volumes de données personnelles récoltées auprès des utilisateurs, qui se retrouvent ensuite entre les mains d’entreprises d’IA. Ces données proviennent de milliards de pages Web, exposant ainsi la vie d’individus qui n’ont jamais consenti à une telle collecte.
« Ces données deviennent des informations à mon sujet », a-t-elle précisé. « Elles ne doivent pas nécessairement être précises ou refléter ma véritable identité, mais elles exercent un pouvoir considérable sur ma vie et ce pouvoir est confié à des entreprises privées. »
Informations complémentaires
Plus sur l’IA : Les expertos avertissent que des prédateurs exploitent l’IA pour générer des images d’abus sexuels sur enfants, visant à confronter la société à cette problématique alarmante.
FAQ
Qu’est-ce que l’intelligence artificielle générative?
L’IA générative fait référence à une technologie capable de créer du contenu, comme du texte, de la musique ou des images, en se basant sur des ensembles de données massifs.
Pourquoi l’IA est-elle perçue comme un outil de surveillance?
L’IA collecte des données à partir de diverses sources, souvent sans le consentement explicite des utilisateurs, ce qui soulève des préoccupations sur la vie privée et la sécurité des données.
Comment les travailleurs humains contribuent-ils à l’IA?
De nombreux systèmes d’IA nécessitent une annotation humaine pour fonctionner correctement, ce qui inclut le classement et l’étiquetage des données en amont.
Quels risques l’IA pose-t-elle sur la vie quotidienne?
Les décisions prises par des algorithmes d’IA peuvent affecter les opportunités financières et sociales d’une personne, souvent sans qu’elle en ait conscience.
Quelles mesures peuvent être prises pour protéger la vie privée des utilisateurs?
Il existe divers outils et réglementations visant à protéger la vie privée en ligne, allant des paramètres de confidentialité des services aux lois sur la protection des données personnelles.