Inscrivez-vous pour découvrir le futur, aujourd’hui
<div class="newsletter-cta-description">
<p class="article-paragraph skip">Des innovations incontournables aux frontières de la science et de la technologie</p>
</div>
</div>
</div>Sommaire
ToggleUn Paradis Algorithmique
Nous entrons dans une ère où les interactions des logiciels avec le monde deviennent si complexes et obscures que les chercheurs doivent aborder l’étude des algorithmes comme on étudierait des animaux.
C’est ce que déclare Iyad Rahwan, un technologue du MIT, lors d’une interview fascinante avec New Scientist. Selon Rahwan, les algorithmes sont des **entités sophistiquées** et notre compréhension de leur fonctionnement est tributaire de l’observation de leur comportement en interaction avec leur environnement.
“Nous faisons face à un nouveau type d’agent dans notre monde. Ce n’est ni un animal, ni un humain ; c’est une machine,” déclare Rahwan à New Scientist. “Actuellement, seuls les informaticiens étudient les comportements des algorithmes. Mon équipe les examine de la même manière que nous étudierions un humain, un animal ou une entreprise dans leur habitat naturel.”
Machines Morales
Rahwan souligne que la problématique est que bien que vous puissiez voir les histoires qui apparaissent dans votre fil d’actualités sur Facebook, l’algorithme qui a fait ce choix vous est inaccessible. Vous pouvez utiliser une voiture autonome, mais il est impossible de consulter le code qui détermine ses décisions de conduite.
Parmi ses travaux les plus renommés, Rahwan a créé des IA destinées à explorer des questions éthiques, telles qu’un algorithme déterminant quel piéton une voiture autonome devrait choisir de heurter, ou encore un algorithme “psychopathe” qui détecte la “violence et l’horreur” dans chacune des images qu’il analyse.
L’interview avec New Scientist laisse entrevoir une nouvelle direction : évaluer le comportement des IA existantes dans des contextes réels, semblable à l’observation des naturalistes dans un habitat animal. Si l’équipe de Rahwan parvient à avancer sur ce terrain, cela pourrait nous offrir un éclairage inédit sur l’impact des algorithmes sur les êtres humains et la société dans son ensemble.
POUR EN SAVOIR PLUS : Pourquoi la quête de l’IA éthique est vouée à l’échec [New Scientist]
Informations supplémentaires sur l’IA éthique : La moralité collective pourrait influencer l’éthique de l’intelligence artificielle
FAQ
Qu’est-ce qu’un algorithme ?
Un algorithme est un ensemble de règles ou d’instructions définies pour effectuer des tâches spécifiques, souvent utilisé lors de la programmation des ordinateurs.
Pourquoi est-il crucial d’étudier le comportement des IA ?
Comprendre comment les IA opèrent dans le monde réel révèle leur impact sur nos vies et permet de mieux gérer leurs décisions, notamment celles ayant des implications éthiques.
Quelles sont les implications éthiques des décisions des algorithmes ?
Les choix faits par les algorithmes peuvent affecter la sécurité, les droits des individus, et la manière dont des groupes entre en relation, soulevant des questions éthiques cruciales dans notre société.
Comment les chercheurs peuvent-ils mieux étudier les algorithmes ?
En adoptant une approche similaire à celle utilisée pour observer les comportements des animaux, afin de mieux saisir les interactions des algorithmes dans des contextes variés.
Existe-t-il déjà des exemples de décisions algorithmiques contestées ?
Oui, il y a eu des controverses concernant des algorithmes dans la justice pénale, où des décisions de mise en liberté conditionnelle étaient influencées par des biais inhérents aux systèmes algorithmiques.
