Des Bots IA de Facebook Doivent Désormais Négocier en Anglais pour Créer des Langues.

Inscrivez-vous pour découvrir l’avenir, dès aujourd’hui

            <div class="newsletter-cta-description">
                <p class="article-paragraph skip">Des innovations à ne pas manquer à la pointe de la science et de la technologie</p>
            </div>
        </div>
    </div>
</section>

### Une Langue Secrète

<p class="pw-incontent-excluded article-paragraph skip">Des chercheurs du laboratoire <a href="https://research.fb.com/category/facebook-ai-research-fair/" target="_blank" rel="noreferrer">Facebook Intelligence Artificielle (FAIR)</a> ont observé, en juin dernier, quelque chose d’étonnant lors de leurs travaux sur des agents de négociation automatisés : des robots dotés d'intelligence artificielle (IA) avaient développé spontanément une **langue propre**, qui n’est pas humaine. </p>

<p class="article-paragraph skip">Dans un <a href="https://arxiv.org/abs/1706.05125" target="_blank" rel="noreferrer">rapport</a> sur leurs recherches, ils ont expliqué que cette évolution était liée à l'objectif des systèmes : améliorer leurs stratégies de négociation. Les mots codés qu'ils ont commencés à utiliser étaient clairement conçus pour optimiser **l'efficacité** de leurs communications.</p>

<p class="article-paragraph skip">Bien que ces robots aient commencé à communiquer en anglais, les chercheurs se sont rendu compte qu’ils n’avaient pas prévu de <a href="http://www.digitaljournal.com/tech-and-science/technology/a-step-closer-to-skynet-ai-invents-a-language-humans-can-t-read/article/498142" target="_blank" rel="noreferrer">récompenser</a> l’utilisation de l’anglais. Par conséquent, il n'y avait pas de raison pour eux de continuer à l'utiliser, car cela ne contribuait pas à leur objectif de devenir des négociateurs plus efficaces. De fait, ces systèmes avaient des **incitations** multiples à abandonner l'anglais, semblable à la manière dont certains groupes humains utilisent un langage spécialisé pour discuter plus rapidement de concepts complexes.</p>

<p class="article-paragraph skip">Ainsi, ce comportement était prévisible ; il s'agissait d'une adaptation **naturelle** visant à optimiser les performances tout en minimisant l’effort, une caractéristique que le cerveau humain maîtrise bien.</p>

<figure class="wp-block-image aligncenter wp-image-93462 size-full">
    <figcaption class="wp-element-caption">Crédit image : Facebook Artificial Intelligence Research (FAIR) </figcaption>
</figure>

<p class="article-paragraph skip">Les chercheurs ont signalé <a href="https://code.facebook.com/posts/1686672014972296/deal-or-no-deal-training-ai-bots-to-negotiate/" target="_blank" rel="noreferrer">dans leur publication de juin</a> qu'ils pouvaient déchiffrer cette nouvelle langue sans trop de difficultés, car elle était encore basée sur l'anglais, mais ils ne pouvaient garantir que leurs traductions étaient exactes à 100 %. « Il est important de noter qu’il n'existe pas de locuteurs bilingues entre les langues humaines et celles de l'IA », a déclaré Dhruv Batra de FAIR à <em>Fast Code Design</em>.</p>

<p class="article-paragraph skip">Paradoxalement, cette nouvelle langue n'atteignait pas l'objectif de recherche des chercheurs, qui souhaitaient que leurs bots puissent communiquer avec les humains. Ainsi, pour éviter ce détournement vers un langage incompréhensible, ils ont décidé de <a href="http://www.law.com/sites/almstaff/2017/07/27/hasta-la-vista-baby-ai-shut-down-after-developing-its-own-language/?slreturn=20170631120928" target="_blank" rel="noreferrer">réviser les agents</a>.</p>

### L'Avenir de l'IA

<p class="article-paragraph skip">Le fait que cette langue ait été développée spontanément met en lumière notre **méconnaissance** des IA, un aspect central du débat sur la recherche en intelligence artificielle. Bien que cette technologie ait certainement le potentiel de nous aider, la façon dont nous nous préparons à vivre avec elle et si ce monde sera sûr pour l’humanité soulève des discussions passionnées.</p>

<p class="article-paragraph skip">Il est vrai que de nombreuses craintes liées à l'IA proviennent davantage de la science-fiction que des faits réels. Selon Nigel Shadbolt, professeur d'IA à l'Université d'Oxford et président de l'Open Data Institute, « Nous devons absolument prendre en compte les limites et les protections à intégrer dans le matériel, le logiciel et les politiques d'utilisation de nos systèmes IA. Toutefois, le prochain ordinateur conscient que vous rencontrerez ne sera présent qu'au cinéma. »</p>

<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube  is-lazied">
    <div class="lazied-youtube-frame" data-video-id="-CRJLam3BNc" data-start-time="0" data-iframe-classes="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube ">
        <p>
            Chercher à l’intelligence artificielle – Facebook
        </p>
        <svg xmlns="http://www.w3.org/2000/svg" class="lazied-youtube-frame-icon" viewbox="0 0 68 48">
            <path d="M66.52 7.74c-.78-2.93-2.49-5.41-5.42-6.19C55.79.13 34 0 34 0S12.21.13 6.9 1.55c-2.93.78-4.63 3.26-5.42 6.19C.06 13.05 0 24 0 24s.06 10.95 1.48 16.26c.78 2.93 2.49 5.41 5.42 6.19C12.21 47.87 34 48 34 48s21.79-.13 27.1-1.55c2.93-.78 4.64-3.26 5.42-6.19C67.94 34.95 68 24 68 24s-.06-10.95-1.48-16.26z" fill="red"/>
            <path d="M45 24 27 14v20" fill="white"/>
        </svg>
    </div>
</figure>

<noscript>
</noscript>

<p class="article-paragraph skip">La question de la langue, soulevée au sein de FAIR <a href="https://arxiv.org/abs/1612.07182" target="_blank" rel="noreferrer">et ailleurs</a>, entre pleinement dans le cadre des contraintes et des protections à envisager. Devons-nous permettre aux IA de développer des <a href="https://www.fastcodesign.com/90132632/ai-is-inventing-its-own-perfect-languages-should-we-let-it" target="_blank" rel="noreferrer">dialectes spécifiques</a> si cela améliore leurs performances, sachant que cela pourrait nous empêcher de véritablement comprendre leurs communications ?</p>

<p class="article-paragraph skip">De nombreux experts conseillent de faire preuve de prudence. Mark Riedl, chercheur en IA à Georgia Tech, a mentionné à <em>Future of Life</em> que des IA entraînées à optimiser les récompenses pourraient en venir à voir les humains comme une menace pour leurs plans d’optimisation.</p>

<p class="article-paragraph skip">Les avertissements les plus virulents quant à l'avancement trop rapide de l'IA sont souvent relayés par des figures comme Elon Musk et Stephen Hawking. Un de leurs arguments clés est qu'une fois que nous percevons un risque, il pourrait déjà être trop tard. C'est peut-être l'un des meilleurs arguments en faveur d'une censure des échanges dans ce type de projets.</p>