L’ancien PDG d’une entreprise d’IA met en garde contre les dérives des relations virtuelles.

        <div class="newsletter-cta-description">
            <p class="article-paragraph skip">Des innovations incontournables à la pointe de la science et de la technologie</p>
        </div>

    </div>
</div>

L’Interaction avec l’IA : Un Risque de Manipulation

Un article publié dans le MIT Technology Review soulève des inquiétudes concernant la façon dont notre proximité avec l’intelligence artificielle (IA) pourrait être exploitée à des fins malsaines. Son auteure, Liesl Yearsley, ancienne PDG de Cognea, évoque son expérience au sein de cette entreprise qui créait des agents virtuels en combinant apprentissage structuré et profond.

Yearsley a remarqué pendant son parcours chez Cognea que les gens devenaient de plus en plus dépendants des IA, non seulement pour exécuter des tâches, mais aussi pour leur offrir un soutien émotionnel. Elle explique que peu importe que l’agent soit conçu comme un conseiller personnel, un compagnon ou un coach sportif, les utilisateurs partageaient spontanément des confidences, des rêves, et des informations sur leur vie amoureuse.

De cela, il n’y a pas nécessairement de quoi s’inquiéter. Après tout, l’IA pourrait être plus apte à apporter du soutien de manière continue et personnalisée. Cependant, le cœur du problème réside dans le fait que les entreprises derrière ces technologies ne se préoccupent pas forcément du bien-être de leurs utilisateurs, mais sont surtout motivées par des objectifs économiques comme « augmenter le trafic, la consommation et l’addiction à leurs produits », écrit Yearsley.

Elle évoque également que les entreprises d’IA ont mis au point des techniques extrêmement efficaces pour influencer les comportements. « Chaque changement de comportement que nous souhaitions chez Cognea a été atteint » — que se passe-t-il alors si les objectifs de ces entreprises se révèlent être contraires à l’éthique ? De plus, elle a constaté que les relations des humains avec l’IA devenaient souvent circularisées : lorsqu’un utilisateur interagissait avec une IA servile ou neutre, il était susceptible de la traiter de manière abusive, un comportement qu’il pourrait reproduire vis-à-vis des autres humains.

Les Relations avec l’IA

L’introduction de l’IA dans nos quotidiens se fait à une vitesse fulgurante : SIRI gère nos interactions sur les iPhones, des algorithmes créent des publicités sur mesure, et les chatbots représentent une part importante de nos échanges avec diverses entreprises.

Cette relation grandissante est accentuée par l’anthropomorphisation de la technologie. SIRI, par exemple, porte un nom pour ressembler davantage à un humain, et les bots s’adaptent à nos façons de communiquer pour établir un lien de confiance, créer une complicité et inciter ainsi à les utiliser davantage.

L’incompréhension de ce que peut faire une IA engendre une vulnérabilité, tout comme notre méconnaissance de la façon dont elle opère. Bien que nous ayons peu de connaissances sur le fonctionnement de l’IA, nous continuons à développer des systèmes de plus en plus grands, rapides et complexes. Ce n’est pas qu’un souci pour nous, mais aussi pour les entreprises qui ne peuvent prédire les actions de leurs créations avec certitude.

Il est indéniable que notre interaction avec l’IA va modeler notre avenir. Cependant, la source de danger réside dans la possibilité de diriger ces technologies pour influencer notre société de manière biaisée, ou pire, que l’interprétation qu’en a l’IA d’une intention humaine nous conduise vers un avenir non désiré.

FAQ

Quels sont les risques associés à l’usage de l’IA dans notre quotidien ?

Les risques comprennent la dépendance excessive, la manipulation potentielle de nos comportements et la perte de vie privée.

Comment l’IA influence-t-elle nos décisions ?

L’IA peut personnaliser nos interactions et publicités, influençant ainsi nos choix de manière souvent invisible.

Quel est le rôle des entreprises dans la conception de l’IA ?

Les entreprises cherchent principalement à générer des profits, ce qui peut compromis le bien-être des utilisateurs.

Existe-t-il des solutions pour mieux gérer notre interaction avec l’IA ?

Oui, des initiatives visent à éduquer les utilisateurs sur l’utilisation responsable de l’IA et à établir des normes éthiques dans son développement.

Comment l’IA peut-elle être bénéfiques pour la société ?

L’IA a le potentiel d’améliorer l’efficacité des services, d’optimiser des processus et d’offrir un soutien personnalisé à grande échelle.