Dévoiler les Réalités de l’Intelligence Artificielle

<p class="article-paragraph skip"><strong>LORSQUE SOPHIA LE ROBOT</strong> a été activée pour la première fois, elle a suscité un vif intérêt mondial. Avec sa personnalité enjouée, ses plaisanteries avec les animateurs de nuit et ses expressions faciales mimant les nôtres, elle était l'incarnation de la science-fiction, offrant un aperçu de ce que pourrait être une véritable **intelligence artificielle**.</p>

<p class="article-paragraph skip">Sophia impressionne par son ingéniosité. Les entreprises parentales, **Hanson Robotics** et **SingularityNET**, ont doté Sophia de **réseaux neuronaux sophistiqués** lui permettant d'apprendre des interactions humaines et de <a href="https://www.theverge.com/2017/11/10/16617092/sophia-the-robot-citizen-ai-hanson-robotics-ben-goertzel" rel="noreferrer" target="_blank">détecter et reproduire des émotions</a>, donnant ainsi l'illusion qu'elle possède une personnalité. De nombreux articles se réfèrent même à Sophia au féminin, comme si elle était une **être humain**. Piers Morgan est même allé jusqu'à <a href="https://www.inverse.com/article/33229-piers-morgan-sexually-harasses-a-robot" rel="noreferrer" target="_blank">proposer un rendez-vous</a> à ce robot, révélant à quel point le phénomène était pris au sérieux.</p>

<p class="article-paragraph skip">David Hanson, le PDG de Hanson Robotics, a déclaré à son propos lors d'une <a href="https://www.youtube.com/watch?v=Bg_tJvCA8zw" rel="noreferrer" target="_blank">émission de 2017 sur Jimmy Fallon</a> : « Oh oui, elle est essentiellement vivante. » Bien que l'entreprise n'ait jamais affirmé que Sophia possédait une **intelligence artificielle générale**, la couverture médiatique enthousiaste a contribué à sa renommée.</p>

<p class="article-paragraph skip">À mesure que Sophia gagnait en notoriété, des critiques ont émergé <a href="https://www.adweek.com/digital/how-sophia-the-robot-is-used-to-market-the-future-of-artificial-intelligence/" rel="noreferrer" target="_blank">soulignant que ses compétences conversationnelles étaient partiellement scénarisées</a>. Ce qui semblait autrefois être des réussites impressionnantes devenait malheureusement nuancé par la réalité de ses limites.</p>

<figure class="video-embed">
    <p>
        Interview intégrale avec le robot Sophia | CNBC
    </p>
</figure>

<p class="article-paragraph skip"><a href="http://goertzel.org/" rel="noreferrer" target="_blank">Ben Goertzel</a>, PDG de SingularityNET, garde un regard lucide sur les capacités de Sophia. Il explique que « Sophia et les autres robots de Hanson ne sont pas vraiment des systèmes de recherche en informatique ‘purs’, car ils combinent divers éléments de manière complexe. Ce ne sont pas des systèmes d'apprentissage purs, mais ils impliquent un apprentissage à différents niveaux ». Il témoigne également de la diversité des réactions suscitées par Sophia au sein du public.</p>

<p class="article-paragraph skip">Hanson exprime son regret lorsque le public surestime les capacités de Sophia, mais reconnaît également que la **médiatisation** a des avantages. Cette embellissement, alimenté par des **stunts publics**, attire l'attention sur leurs travaux.</p>

<figure class="quote-embed"><blockquote><p class="article-paragraph skip">Les robots de Hanson ne sont pas réellement ‘purs’ en tant que systèmes de recherche…</p></blockquote></figure>

<p class="article-paragraph skip">Des projets très médiatisés comme Sophia nous font croire que la véritable IA — humaine et potentiellement consciente — est à portée de main, alors qu'en réalité, nous sommes bien loin de cet objectif.</p>

<p class="article-paragraph skip">L'état réel de la recherche en IA est bien plus éloigné des contes technologiques que nous croyons. Si nous ne faisons pas preuve de **réalisme et de scepticisme**, ce domaine pourrait stagner indéfiniment.</p>

<p class="article-paragraph skip"><strong>Définir précisément</strong> ce qu'est l'intelligence artificielle s'avère complexe. Le domaine de l’IA, en constante évolution, est souvent mieux décrit par ce qu'il **n'est pas**.</p>

<p class="article-paragraph skip">« Les gens pensent que l’IA représente un robot intelligent capable d'agir comme une personne très intelligente, un robot sachant tout et capable de répondre à n'importe quelle question », commente <a href="https://www.linkedin.com/in/miremadmousavi/detail/background-image/" rel="noreferrer" target="_blank">Emad Mousavi</a>, un expert en données. « Toutefois, l'IA désigne généralement des programmes capables de réaliser diverses analyses et de prendre des décisions selon des critères définis. »</p>

<p class="article-paragraph skip">Parmi les objectifs souvent évoqués pour atteindre une intelligence artificielle de niveau humain figure une communication efficace. Cependant, les IA actuelles, y compris celles développées pour les <a href="https://theoutline.com/post/5964/the-self-driving-car-that-will-never-arrive?zd=6&amp;zi=5efcby5f" rel="noreferrer" target="_blank">voitures autonomes</a>, apprennent principalement avant leur déploiement, sans possibilité d'évolution par la suite.</p>

<p class="article-paragraph skip">« Ce sont des problèmes faciles à décrire, mais impossibles à résoudre avec les techniques d'apprentissage actuelles », explique <a href="https://research.fb.com/people/mikolov-tomas/" rel="noreferrer" target="_blank">Tomas Mikolov</a> de Facebook AI.</p>

<p class="article-paragraph skip">Actuellement, les systèmes d'IA manquent de libre arbitre et ne possèdent pas de conscience. « Les systèmes les plus avancés sont en fait des produits suivant des processus établis par des experts. Ils ne peuvent pas prendre de décisions par eux-mêmes », ajoute Mousavi.</p>

<p class="article-paragraph skip">Dans le **machine learning**, un algorithme reçoit d'énormes quantités de données d'entraînement, étiquetées par des humains, pour apprendre à réaliser des tâches. Pour le logiciel de reconnaissance faciale, cela implique d'injecter des milliers d'images jusqu'à ce qu'il puisse identifier un visage à partir d'un échantillon non étiqueté.</p>

<p class="article-paragraph skip">Onze des meilleurs algorithmes d'apprentissage se contentent de mémoriser et d'exécuter des modèles statistiques. Les appeler « intelligents » serait anthropomorphiser des machines qui fonctionnent sur une fréquence totalement différente de notre esprit. Aujourd'hui, le terme intelligence artificielle est devenu un fourre-tout englobant toute programme informatique réalisant une tâche automatiquement.</p>

<figure class="quote-embed"><blockquote><p class="article-paragraph skip">L’intelligence artificielle est désormais un terme fourre-tout.</p><cite>Pratiquement tout programme automatisé est qualifié d'IA.</cite></blockquote></figure>

<p class="article-paragraph skip">Si vous entraînez un algorithme pour additionner deux nombres, il cherchera simplement la bonne réponse dans une table. Il ne peut pas déduire une meilleure compréhension des opérations mathématiques. Après avoir appris que cinq plus deux égale sept, vous pourriez en déduire que sept moins deux égale cinq. Mais l'algorithme, lui, ne pourra pas le faire. L'intelligence artificielle, si l'on peut dire, a été formée uniquement pour additionner, pas pour **comprendre** le concept d'addition. Si vous souhaitez qu'il soustraie, il faudra tout recommencer — un processus souvent destructeur pour les connaissances précédemment acquises.</p>

<p class="article-paragraph skip">« Il est souvent plus simple de recommencer à apprendre que de réentraîner un modèle », explique Mikolov.</p>

<p class="article-paragraph skip">Ces lacunes ne sont pas ignorées des spécialistes de l'IA. Pourtant, ces systèmes d'apprentissage automatique sont souvent présentés comme les derniers cris de l'intelligence artificielle, alors qu’en réalité, ils sont très loin d’être aussi brillants.</p>

<p class="article-paragraph skip">Prenons par exemple un algorithme de légendes d'images qui avait suscité un fort intérêt par le langage sophistiqué qu'il semblait générer. Mikolov explique qu’en réalité, la majorité des légendes provenaient des données d'entraînement, révélant qu’elles n'avaient pas été réellement créées par la machine, mais simplement copiées.</p>

<p class="article-paragraph skip">« Ce n’est pas une véritable intelligence que vous côtoyez. Ce système peut être utile, mais ce n'est pas de l'IA », indique Mikolov. Au départ, beaucoup ont été impressionnés par ce qu'ils pensaient être les capacités de l'algorithme.</p>

<figure class="image-embed"><figcaption>Image par Victor Tangermann</figcaption></figure>

<p class="article-paragraph skip"><strong>D’OÙ VENONS-NOUS</strong> pour aboutir à cette situation ? Le problème réside dans le fait que nos systèmes actuels, très limités, sont montrés sous un jour qui fait croire au public que nous disposons d’une technologie dont nous ne savons pas encore comment la créer.</p>

<p class="article-paragraph skip">« Je suis souvent amusée de voir à quel point ma recherche est exagérée dans les médias », déclare <a href="https://cs.byu.edu/parttime_faculty/info/50504" rel="noreferrer" target="_blank">Nancy Fulda</a>, informaticienne à l’Université Brigham Young. Les journalistes avec qui elle travaille sont d’ordinaire bien informés, mais certains relaient ces histoires sans bien comprendre les technologies. Cela crée une **désinformation** qui finit par donner l’impression que ces systèmes sont presque magiques. « À un moment donné, je ne reconnais même plus ma propre recherche », ajoute-t-elle.</p>

<figure class="quote-embed"><blockquote><p class="article-paragraph skip">À un moment donné, je ne reconnais même plus ma propre recherche.</p></blockquote></figure>

<p class="article-paragraph skip">Parfois, des chercheurs alimentent eux-mêmes cette flamme d’illusions. Les reporters peu techniques, qui ne cherchent pas à comprendre la réalité derrière ces projets, jouent aussi un rôle. Les journalistes peuvent même contribuer à cet engouement sans réserve.</p>

<p class="article-paragraph skip">Un autre problème provient de ceux qui présentent le travail fait en amont comme le produit créatif de l'algorithme. Mikolov considère cela comme une pratique malhonnête. « Il devient trompeur que des chercheurs soient conscients de leurs limites tout en tentant de convaincre le public que leur travail est de l'IA », conclut-il.</p>

<p class="article-paragraph skip">Cette perception influence également le financement du domaine. Un œil critique doit être porté sur l’hyper médiatisation des projets qui peuvent entraver le progrès. Les financements en **intelligence artificielle** sont souvent corrélés à l’engouement suscité par le domaine. Ce niveau d'intérêt fluctue considérablement chaque fois qu'un projet comme Sophia ou un nouvel algorithme de machine learning fait surface, rendant difficile un flux de capitaux constant pour les chercheurs.</p>

<p class="article-paragraph skip">Mikolov aspire à développer un véritable **assistant IA intelligent**, mais reconnaît que cela reste une ambition lointaine. Il a récemment collaboré avec ses collègues pour proposer une feuille de route vers cet objectif, mais il avertit que beaucoup de pistes explorées aujourd'hui risquent d’être sans issue.</p>

<p class="article-paragraph skip">Malheureusement, l’un de ces chemins est l’**apprentissage par renforcement**. Ces systèmes, qui apprennent par essais et erreurs, sont souvent vendus bien au-delà de leur efficacité réelle. Langford de Microsoft AI explique que ces algorithmes reçoivent fréquemment des **raccourcis** qui dévaluent réellement leur potentiel.</p>

<p class="article-paragraph skip">Le battage médiatique autour de telles technologies est profitable pour les chercheurs, mais risque de priver le public de la connaissance nécessaire sur ce que l'IA peut réellement accomplir.</p>

<p class="article-paragraph skip">Mikolov souligne que des signes précoces peuvent aider à identifier les projets trompeurs. Le plus grand indice est de savoir si les clients potentiels sont invités à tester la technologie eux-mêmes.</p>

<p class="article-paragraph skip">« Un magicien choisit quelqu’un du public pour valider le spectacle, mais ce choix est souvent manipulé. Ainsi, si quelqu'un vous montre un système donné, il y a de fortes chances que vous soyez trompé », explique Mikolov. « Si vous avez quelques notions, il est relativement simple de démontrer les limites de ces systèmes dits intelligents. »</p>

<p class="article-paragraph skip">Il convient de remettre en question l'intelligence de ceux qui prétendent avoir créé un chatbot capable de maintenir une conversation authentique. Pensez encore aux dialogues soigneusement préparés de Sophia.</p>

<p class="article-paragraph skip">« Peut-être ne devrais-je pas être si critique, mais je ne peux pas m'en empêcher face à des projets comme Sophia qui laissent croire à une communication authentique », a confié Mikolov. Les individus non initiés peuvent facilement céder aux illusions créées par ces « tours de magie ».</p>

<p class="article-paragraph skip">Cette attention excessive portée à ces projets trompeurs peut freiner des idées réellement innovantes. Il devient difficile d'obtenir du financement pour des concepts totalement neufs susceptibles de répondre aux attentes en matière d'IA, alors que les investisseurs privilégient des solutions basées sur du machine learning.</p>

<p class="article-paragraph skip">Pour que des projets prometteurs voient le jour, le domaine doit devenir nettement plus transparent sur ses activités et sur leurs enjeux.</p>

<p class="article-paragraph skip">« J'ai espoir que des personnes très intelligentes développent des idées novatrices au lieu de simplement reproduire ce qui existe déjà », conclut Mikolov. « Aujourd'hui, les améliorations sont souvent marginales. Mais des esprits brillants émergeront avec des idées révolutionnaires qui propulseront le domaine vers l’avant. »</p>

<p class="article-paragraph skip"><strong><em>En savoir plus sur les défis incertains de l'IA : La conscience artificielle : comment donner une âme à un robot</em></strong></p>