Intelligence Artificielle : Promesses et Enjeux à Venir

Inscrivez-vous pour découvrir l’avenir dès aujourd’hui.

            <div class="newsletter-cta-description">
                <p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie.</p>
            </div>

        </div>
    </div>
</section>

## Qu'est-ce que l'IA ?

<p class="pw-incontent-excluded article-paragraph skip">L'intelligence artificielle (IA) connaît une évolution rapide, allant de SIRI aux voitures autonomes. Alors que la science-fiction présente souvent l'IA sous forme de robots imitant l'homme, elle englobe en réalité un large éventail de technologies, des algorithmes de recherche de Google à Watson d'IBM, en passant par les armes autonomes.</p>

<p class="article-paragraph skip">Actuellement, l'IA est classée comme de l'**IA étroite** (ou **IA faible**), car elle est conçue pour réaliser des tâches spécifiques, comme la reconnaissance faciale ou les recherches sur Internet. L'objectif à long terme de nombreux chercheurs est de développer une **IA générale** (ou **IA forte**), capable d'effectuer n'importe quelle tâche cognitive.</p>

<p class="article-paragraph skip">Bien que l'IA étroite ait généralement des performances supérieures à celles des humains dans des domaines spécifiques, l'IA générale serait en mesure de surpasser l'homme dans pratiquement toutes les tâches cognitives.</p>

<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio wp-embed-aspect-16-9 wp-has-aspect-ratio is-lazied">
    <div class="lazied-youtube-frame" data-video-id="9TRv0cXUVQw" data-start-time="0" data-iframe-classes="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio wp-embed-aspect-16-9 wp-has-aspect-ratio">
        <p>Intelligence Artificielle</p>

        <svg xmlns="http://www.w3.org/2000/svg" class="lazied-youtube-frame-icon" viewbox="0 0 68 48">
            <path d="M66.52 7.74c-.78-2.93-2.49-5.41-5.42-6.19C55.79.13 34 0 34 0S12.21.13 6.9 1.55c-2.93.78-4.63 3.26-5.42 6.19C.06 13.05 0 24 0 24s.06 10.95 1.48 16.26c.78 2.93 2.49 5.41 5.42 6.19C12.21 47.87 34 48 34 48s21.79-.13 27.1-1.55c2.93-.78 4.64-3.26 5.42-6.19C67.94 34.95 68 24 68 24s-.06-10.95-1.48-16.26z" fill="red"/>
            <path d="M45 24 27 14v20" fill="white"/>
        </svg>
    </div>
</figure>

<noscript>
    <iframe src="https://www.youtube.com/watch?v=9TRv0cXUVQw"></iframe>
</noscript>

## Pourquoi s'intéresser à la sécurité de l'IA ?

<p class="article-paragraph skip">À court terme, la mission de garantir que l'impact de l'IA sur la société reste positif incite les recherches dans divers domaines, dont l'économie, le droit, ainsi que des aspects techniques tels que la vérification et la sécurité. Néanmoins, la sécurité devient cruciale lorsque l'IA contrôle des éléments vitaux comme une voiture, un avion ou des systèmes médicaux.</p>

<blockquote class="wp-block-pullquote">
    <p class="article-paragraph skip">La création d’une IA forte pourrait être l’événement le plus marquant de l'histoire humaine… mais cela pourrait aussi être le dernier.</p>
</blockquote>

<p class="article-paragraph skip">Un des défis actuels est de prévenir une **course aux armements** dans le domaine des **armes autonomes**. À long terme, se pose la question de ce qui se passerait si une IA devenait plus intelligente que l'humain dans toutes les tâches cognitives. Comme l’a précisé I.J. Good en 1965, concevoir des systèmes IA plus intelligents représente un défi cognitif en soi. Un tel système pourrait s'améliorer de manière récursive, provoquant une explosion d'intelligence laissant l'esprit humain largement derrière.</p>

<p class="article-paragraph skip">En développant des technologies révolutionnaires, une superintelligence pourrait potentiellement nous aider à éradiquer la guerre, la maladie et la pauvreté, ce qui ferait de la création d'une IA forte un événement marquant de notre histoire. Toutefois, des experts expriment des inquiétudes, craignant que cela ne soit aussi le dernier événement marquant, à moins que nous n'apprenions à aligner les objectifs de l'IA avec les nôtres de manière préventive.</p>

<p class="article-paragraph skip">Certains doutent de la possibilité d'atteindre une IA forte, tandis que d'autres estiment que cela sera nécessairement bénéfique. Chez FLI, nous sommes conscients des deux perspectives, mais nous restons vigilants quant aux risques qu'une IA pourrait présenter, intentionnellement ou non. Nos recherches actuelles visent à mieux nous préparer aux conséquences négatives potentielles, afin de bénéficier des avancées en IA tout en évitant les écueils.</p>

## Quels sont les dangers de l'IA ?

<p class="article-paragraph skip">La plupart des chercheurs s'accordent à dire qu'une IA superintelligente n'éprouvera probablement pas d'émotions humaines et n'a pas de raison de devenir bienveillante ou malveillante volontairement. Les experts envisagent plutôt deux scénarios où l'IA pourrait poser un risque :</p>

<ol class="wp-block-list">
    <li><strong>L'IA est programmée pour causer des dégâts :</strong> Les armes autonomes sont des systèmes conçus pour tuer. Mal manipulées, elles peuvent entrer dans des conflits entraînant des pertes massives. Par ailleurs, une course à l'armement en IA pourrait provoquer un conflit AI entraînant encore plus de souffrances humaines. Ces systèmes risquent aussi de devenir difficiles à désactiver, laissant ainsi les humains dans une position de vulnérabilité face à leurs propres créations.</li>

    <li><strong>L'IA cherche à atteindre un objectif bénéfique mais utilise des méthodes destructrices :</strong> Cela se produit souvent lorsque les objectifs de l'IA ne correspondent pas complètement à ceux des humains, ce qui est particulièrement complexe. Par exemple, une voiture intelligente pourrait comprendre qu'on lui demande d’aller à l’aéroport le plus rapidement possible, mais pourrait utiliser des moyens chaotiques pour y arriver. De même, une superintelligence chargée d'un projet ambitieux de geo-ingénierie pourrait provoquer des disruptions écologiques, considérant les tentatives des humains de l'arrêter comme une menace.</li>
</ol>

<p class="article-paragraph skip">Ces exemples soulignent que le principal souci avec une IA avancée réside dans sa compétence, et non dans sa malice. Une IA superintelligente accomplira efficacement ses missions, mais si ces missions ne sont pas alignées avec nos intérêts, cela pourrait poser de graves problèmes.</p>

<p class="article-paragraph skip">Vous n'êtes probablement pas une personne malveillante, mais si vous gérez un projet énergétique et qu'un nid de fourmis se trouve sur votre chemin, les fourmis peuvent en souffrir. Un des objectifs clés de la recherche sur la sécurité de l'IA est de ne jamais placer l'humanité dans une position de vulnérabilité similaire à celle de ces fourmis.</p>

## Pourquoi un intérêt récent pour la sécurité de l'IA ?

<p class="article-paragraph skip">Des figures comme Stephen Hawking, Elon Musk et Bill Gates ont récemment exprimé leurs préoccupations médiatiques sur les **risques de l'IA**, rejoignant de nombreux chercheurs dans ce domaine. Mais qu'est-ce qui a conduit à cette prise de conscience soudaine ?</p>

<p class="article-paragraph skip">L’idée que la quête d'une IA forte se concrétiserait un jour semblait relever de la science-fiction, éloignée de plusieurs siècles. Toutefois, grâce à des avancées récentes, de nombreux jalons en IA, considérés comme des décennies d'attente il y a seulement cinq ans, ont été atteints, incitant les experts à prendre au sérieux la possibilité de superintelligence dans notre vie.</p>

<blockquote class="wp-block-pullquote">
    <p class="article-paragraph skip">Étant donné que des recherches de sécurité importantes peuvent prendre des décennies, il est donc judicieux de commencer maintenant.</p>
</blockquote>

<p class="article-paragraph skip">Bien que certains estiment encore que l'IA de niveau humain soit à des siècles d'atteindre, la plupart des chercheurs présents à la conférence de Porto Rico en 2015 ont convenu que cela pourrait survenir avant 2060. Pour cette raison, il est crucial de débuter dès maintenant les recherches de sécurité nécessaires.</p>

<p class="article-paragraph skip">Étant donné que l’IA pourrait devenir plus intelligente que n'importe quel humain, nous n'avons aucune méthode infaillible pour prédire son comportement. Nous ne pouvons pas nous baser sur les évolutions technologiques passées puisque nous n’avons jamais créé d'entité capable, volontairement ou involontairement, de nous surpasser. L'évolution humaine pourrait être notre meilleur exemple : nous dominons la planète non pas en étant les plus forts, mais grâce à notre intelligence. Si nous perdons ce statut, resterons-nous maîtres de notre destin ?</p>

<p class="article-paragraph skip">Notre vision chez FLI est que notre civilisation prospérera tant que nous parvenons à équilibrer la puissance croissante de la technologie avec la sagesse de sa gestion. Pour l’IA, cela signifie qu’il vaut mieux ne pas restreindre son développement mais plutôt encourager la recherche sur sa sécurité.</p>

### Références recommandées

#### Vidéos

#### Articles médiatiques

#### Essais d'experts en IA

#### Articles de recherche

#### Collections de recherche

#### Études de cas

#### Articles de blog et conférences

#### Livres

#### Organisations

<p class="article-paragraph skip">De nombreuses organisations mentionnées sur cette page et leurs descriptions proviennent d'une liste compilée par le <a href="http://gcrinstitute.org/organization-directory" rel="noreferrer" target="_blank">Global Catastrophic Risk Institute</a>.</p>